Encode bundelt de krachten met Elon Musk om OpenAI’s plannen om zich volledig om te vormen tot een winstgericht bedrijf tegen te gaan.
Encode is een door jongeren geleide belangenorganisatie, die mensen in tientallen landen vertegenwoordigt. Het kondigde aan dat het de lopende rechtszaak van SpaceX- en Tesla-oprichter Elon Musk (foto) tegen OpenAI ondersteunt.
De rechtszaak is bedoeld om de transformatie van OpenAI te voorkomen. Deze indiening wordt ondersteund door een van de meest prominente figuren in de kunstmatige intelligentie-industrie: Nobel- en Turingprijswinnaar Geoffrey Hinton. Men noemt hem vaak de “godfather van AI”.
Commitment aan belang mensheid
Het businessmodel van OpenAI leidt al langer tot discussie. Zo meldde het bedrijf begin vorig jaar een jaaromzet van 1,6 miljard euro. Dat was hoger dan verwacht, maar veel te weinig om winstgevend te zijn. Daarom zoekt het bedrijf naar wegen om de inkomsten te vergroten. Dat gaat niet zonder slag of stoot.
In de brief stelt Encode dat de herstructurering van OpenAI de toewijding aan openbare veiligheid bij de ontwikkeling van geavanceerde AI-systemen ondermijnt. Encode voegt eraan toe dat de status van OpenAI als non-profitbedrijf “essentiële bestuursmaatregelen” biedt. Die verdwijnen als het bedrijf een winstgerichte entiteit wordt. In plaats van zich te committeren aan de belangen van de mensheid, zou het bedrijf wettelijk verplicht zijn om publieke voordelen te balanceren met de belangen van investeerders.
OpenAI werd volgens Hinton opgericht als een expliciet op veiligheid gericht non-profitbedrijf, blijkt uit een verklaring. Daarbovenop ontving het “talrijke belasting- en andere voordelen” vanwege de non-profitstatus, zegt hij. “Toestaan dat het al deze beloftes intrekt wanneer het niet meer uitkomt, geeft een zeer slecht signaal af aan andere spelers in het ecosysteem.”
Hinton zei recentelijk tegen BBC Radio 4 dat hij denkt dat er een “10% tot 20% kans” is dat AI binnen de komende 30 jaar de mensheid kan uitroeien. Dit lijkt een poging te zijn om de industrie eraan te herinneren dat er waarborgen nodig zijn bij de ontwikkeling van deze technologie.
Juridische structuur beperkt OpenAI
De huidige juridische structuur van OpenAI, als een winstgericht bedrijf gecontroleerd door een non-profit bestuur, legt beperkingen op aan zijn missie. En het belemmert het vermogen om financiering aan te trekken en investeerders te compenseren. Vorige week kondigde het bedrijf formeel de intentie aan om zich te herstructureren als een traditioneel winstgericht bedrijf. Deze plannen waren overigens al enige tijd bekend.
Musk was een van de eersten die deze stap van OpenAI voorzag. Hij diende daarom in november een voorlopige voorziening in om dit te voorkomen. Sindsdien kreeg hij steun van Meta en zijn oprichter en CEO Mark Zuckerberg. Vorige maand schreef Meta in een brief aan de procureur-generaal van Californië, Rob Bonta, dat het toestaan van de transformatie van OpenAI een “gevaarlijk precedent” zou scheppen met “seismische implicaties” voor de technologie-industrie.
In zijn brief vraagt Encode zich af of een winstgericht bedrijf in staat is om de belofte van OpenAI na te komen om “te stoppen met concurreren en te beginnen met helpen” van organisaties die mogelijk dicht bij het bouwen van “kunstmatige algemene intelligentie” zijn voordat OpenAI dat zelf doet.
“Ai moet publiek belang dienen”
“Vandaag de dag haasten een handvol bedrijven zich om transformatieve AI te ontwikkelen en in te zetten. Hierbij internaliseren ze de winsten, maar externaliseren ze de gevolgen voor de mensheid.” Dit stelde Encode-oprichter en president Sneha Revanur. “De rechtbanken moeten ingrijpen om ervoor te zorgen dat AI-ontwikkeling het publieke belang dient.”
OpenAI riep de rechtbank op om de rechtszaak van Musk af te wijzen. Het bedrijf beweert dat Musk er “geen belang bij heeft” en alleen probeert een concurrentievoordeel te behalen voor zijn eigen AI-startup, xAI Corp. Om zijn claims te ondersteunen gaf OpenAI e-mails vrij. Daaruit blijkt dat Musk er al in 2017 bij OpenAI-managers pleitte voor het winstgericht maken van het bedrijf.