Jensen Huang spune că va fi „extrem de alarmat” dacă inginerul său de 500.000 de dolari nu consumă cel puțin 250.000 de dolari în token-uri

Directorul executiv al Nvidia, Jensen Huang, a identificat o nouă problemă în ceea ce privește atragerea talentelor de top: neutilizarea suficientă a token-urilor AI. Într-un episod al „All-In Podcast”, publicat joi, Huang a afirmat că va fi „extrem de alarmat” dacă unul dintre inginerii de vârf ai companiei cheltuie prea puțin pe AI, conform businessinsider.com.

👉 Condițiile exprimate de Jensen Huang privind consumul de token-uri de către ingineri

„Dacă acel inginer de 500.000 de dolari nu consumă cel puțin 250.000 de dolari în token-uri, voi fi extrem de alarmat”, a spus Huang. „La sfârșitul anului, voi întreba cât ai cheltuit în token-uri? Dacă acea persoană spune 5.000 de dolari, voi exploda”, a adăugat el.

Întrebat dacă Nvidia cheltuie 2 miliarde de dolari pe token-uri pentru echipa sa de inginerie, Huang a răspuns: „Încercăm să facem asta”. El a comparat situația cu un designer de chipuri care spune: „Adevărul este că voi folosi doar hârtie și creion”, referindu-se la inginerii care subutilizează token-urile AI.

👉 Token-urile ca strategie de recrutare și importanța lor în industrie

În această săptămână, Huang a menționat la Conferința Tehnologiei GPU că token-urile ar putea face parte din strategia sa de recrutare pentru ingineri. „Vor câștiga câteva sute de mii de dolari pe an, salariul lor de bază”, a spus Huang despre ingineri. „Probabil le voi oferi jumătate din acea sumă în plus, sub formă de token-uri, astfel încât să poată fi amplificați de 10 ori”.

„Este acum unul dintre instrumentele de recrutare din Silicon Valley: câte token-uri vin odată cu locul meu de muncă?” a adăugat Huang. „Și motivul pentru care este foarte clar, deoarece fiecare inginer care are acces la token-uri va fi mai productiv.”

Token-urile sunt unitatea de bază pe care sistemele AI o folosesc pentru a procesa text. Cu cât un AI citește sau generează mai mult text, cu atât consumă mai multe token-uri, motiv pentru care companiile percep de obicei taxe în funcție de utilizare, per mie sau milion de token-uri.

Nu doar Huang promovează ideea că inginerii au nevoie de acces generos la calculul AI — și că companiile ar trebui să fie dispuse să plătească pentru el. Reporterul de la Business Insider, Alistair Barr, a scris în această lună că companiile tehnologice ar putea experimenta o nouă modalitate de a concura pentru talente: oferind acces la puterea de inferență AI alături de salariu, bonusuri și acțiuni.

Tomasz Tunguz de la Theory Ventures a spus că token-urile sunt un „sfert component” potențial al compensației. Peter Gostev, lider în capabilități AI la Arena, o startup care măsoară performanța modelului, a sugerat că OpenAI și Anthropic „crează site-uri de recrutare unde clienții lor pot anunța roluri, listând bugetul de token-uri pentru locul de muncă alături de intervalul salarial”.

Thibault Sottiaux, lider de inginerie în echipa Codex de la OpenAI, a scris pe X că candidații întreabă din ce în ce mai des cât de mult calcul vor avea acces. CEO-ul OpenAI, Sam Altman, a afirmat anterior că token-urile AI ar putea fi o formă de venit de bază universal. „Mă întreb dacă viitorul arată mai mult ca un Univers de Calcul de Bază Universal decât un Venit de Bază Universal și toată lumea primește o parte din calculul GPT-7”, a spus Altman într-un episod al „All-In Podcast” din mai 2024. „Și pot să îl folosească, să-l revândă, să-l doneze cuiva pentru cercetări asupra cancerului, dar ceea ce primești nu sunt dolari, ci o bucată din productivitate.”