Bestuur OpenAI ontdekte op Twitter dat ChatGPT was gelanceerd

Bestuur OpenAI ontdekte op Twitter dat ChatGPT was gelanceerd

Het blijft stormen rondom OpenAI. Kort nadat verschillende kopstukken het veld ruimden, vertelt voormalig bestuurslid Helen Toner over de kopzorgen die het AI-bedrijf zichzelf aanbracht. In het gesprek wordt ook de reden voor het ontslag van CEO Sam Altman behandeld.

Helen Toner was een van de voorstanders binnen het OpenAI-bestuur voor het ontslag van CEO Sam Altman eind 2023. In die beslissing zou hebben meegespeeld dat Altman het bestuur nooit op de hoogte had gesteld over zijn belangrijke positie binnen het OpenAI Startup Fund. Altman had het fonds zelfs volledig in zijn beheer. Na een korte soap keerde Altman terug, waarna Toner en andere bestuurders vertrokken.

Op Twitter bekendgemaakt

De onrust binnen OpenAI speelde echter al veel langer. Zelfs de raad van bestuur wist niets van de plotselinge lancering van ChatGPT. “Toen ChatGPT in november 2022 uitkwam, was de raad niet vooraf ingelicht,” vertelt Toner op The Ted AI Show-podcast.

De chatbot bleek een schot in de roos en liet aan een wereldwijd publiek blijken wat generatieve AI in huis heeft. ChatGPT was de snelst groeiende app aller tijden en biedt inmiddels de mogelijkheid om op ‘natuurlijke’ wijze een gesprek met de chatbot te voeren, beeld te bespreken en documenten door te spitten. De onderhuidse technologie van ChatGPT vormt de basis voor Microsofts enorme Copilot-project, dat AI-functionaliteit binnen elke Windows-pc moet realiseren.

Tip: ChatGPT praat voortaan in real-time, nieuw model GPT-4o gratis beschikbaar

Hoewel Altman en co logischerwijs niet hadden kunnen weten hóé succesvol ChatGPT zou zijn, is de onthulling van Toner veelzeggend. OpenAI pleit voortdurend over het belang van veilige AI-ontwikkeling en vraagt om heldere wetgeving om dit te bewerkstelligen, maar draagt zelf bij aan een klimaat waarin AI-applicaties in razendsnel tempo naar buiten worden gestuurd. Toner geeft verder nog aan dat Altman het bestuur op verschillende momenten foutief had ingelicht over de veiligheidsprocessen die OpenAI hanteert. Dat gegeven zou eveneens hebben meegespeeld in de beslissing Altman buiten te zetten.

Altman weggezet als manipulator

In de show is duidelijk te horen dat Altman goed weet op welke manier hij de zaken kan manipuleren. Toner vertelt hier over een persoonlijke confrontatie met de CEO. De aanleiding daarnaar zou de publicatie van een van Toner haar onderzoekspapers zijn geweest. “Sam begon tegen andere bestuursleden te liegen in een poging mij van het bestuur te duwen.” Toner zou niet het enige lid van OpenAI zijn geweest met dergelijke ervaringen. Ze vertelt dat twee leidinggevenden het bestuur hadden ingelicht over hun ervaringen met een toxische werkomgeving, waarin Altman werd beschuldigd van “psychologische mishandeling”. De leidinggevenden konden de beschuldigingen onderbouwen met bewijs en daarop ondernam het bestuur actie.

Het ontslag van de CEO kwam uit de lucht vallen. Volgens Toner was dat ook net de bedoeling: “Het was voor ons allemaal heel duidelijk dat zodra Sam enig vermoeden had dat we iets tegen hem zouden ondernemen, hij alles uit de kast zou halen, alles zou doen wat in zijn macht lag om het bestuur te ondermijnen, om te voorkomen dat wij zelfs niet op het punt kwamen dat we hem konden ontslaan.”

Veiligheidsinitiatief

Twee weken geleden vertrok ook mede-oprichter van OpenAI Ilya Sutskever. Als één van de grondleggers van GenAI was hij vanaf 2018 werkzaam als Chief Scientist, dat hem verantwoordelijk stelde voor de ontwikkeling van nieuwe AI-modellen.

Zowel de leegloop aan prominenten als de kritiek van ex-medewerkers lijkt OpenAI tot actie te hebben gedwongen. Gisteren kondigde het bedrijf aan dat het een ‘Safety and Security Committee‘ heeft opgericht. Over 90 dagen zal dit comité met aanbevelingen komen omtrent AI-veiligheid. Of het vooraf informeren van bestuursleden over de lancering van nieuwe producten ook genoemd wordt, valt te betwijfelen.

Immers is dit comité feitelijk een clubje OpenAI-insiders die de machtsstrijd van eind 2023 heeft overleefd. Sam Altman wordt vergezeld door voorzitter Bret Taylor en medebestuurders Adam D’Angelo en Nicole Seligman.

Terloops bevestigt men dat OpenAI is begonnen met het trainen van haar nieuwste frontier model, vermoedelijk GPT-5. Dit zou het pad richting ‘AGI’ ofwel artificial general intelligence, verder bewandelen. De hoop van OpenAI is dat het op den duur daarmee een intelligentie ontwikkelt die de vaardigheden van het menselijk brein overstijgt. Des te meer zaak om goed naar AI-veiligheid te kijken, al is het nieuwe comité duidelijk een geval van de slager die zijn eigen vlees keurt.

Update 09u30 door Laura Herijgers. Meer context over het ontslag van Sam Altman toegevoegd.