In The New Yorker is een uitvoerig onderzoek verschenen naar Sam Altman, CEO van OpenAI. Op basis van geheime memo’s, interne documenten en meer dan honderd interviews concludeert het medium dat meerdere voormalige collega’s Altman structureel onbetrouwbaar achten als leider van de meest invloedrijke AI-organisatie ter wereld. “Het probleem met OpenAI is Sam zelf”, schetst voormalig hoofd onderzoek Dario Amodei.
The New Yorker baseert zich onder andere op zeventig pagina’s aan Slack-berichten en HR-documenten die medeoprichter Ilya Sutskever samenstelde voor het toenmalige bestuur. Die memo’s, ook wel ‘de Ilya Memos’ genoemd, beschrijven een patroon van vermeend bedrog. De eerste punt in één van de documenten luidt simpelweg: ‘Liegen.’ Sutskever schreef dat hij Altman niet geschikt achtte voor de verantwoordelijkheid die het bouwen van AGI met zich meebrengt: hij dacht niet dat Altman de juiste persoon was om de toekomst van de mensheid in handen te houden.
Altman zou ook dezelfde baan aan twee mensen hebben aangeboden, tegenstrijdige verhalen hebben verteld over wie er in een livestream zou moeten verschijnen en hebben gelogen over veiligheidsvoorschriften. Sutskever concludeerde dat dit “geen omgeving creëert die bevorderlijk is voor de ontwikkeling van een veilige AGI.” Amodei en Sutskever kwamen uiteindelijk tot vergelijkbare conclusies. Amodei schreef: “Het probleem met OpenAI is Sam zelf.”
Het ontslag en de terugkeer
In november 2023 ontsloeg het bestuur Altman wegens gebrek aan openheid in zijn communicatie. Dat ontslag veroorzaakte schokgolven. Microsoft, dat zo’n dertien miljard dollar in OpenAI had geïnvesteerd, hoorde het nieuws pas op het laatste moment. Microsoft-CEO Satya Nadella verklaarde later: “Ik was erg verbijsterd.” Binnen dagen organiseerden meer dan 700 medewerkers, investeerders en Altman zelf een tegencampagne. Het bestuur stond schaakmat en Altman keerde na minder dan vijf dagen terug als CEO.
Een onderzoek door advocatenkantoor WilmerHale volgde, maar er verscheen geen schriftelijk rapport. Zes mensen die bij het onderzoek betrokken waren, zeggen dat het leek te zijn opgezet om transparantie te beperken. Het onderzoek werd uiteindelijk afgesloten zonder duidelijke bevindingen over de integriteitsaantijgingen.
Veiligheid op de tweede plaats
Een terugkerend thema in het artikel is de verhouding tussen veiligheidstoezeggingen en commerciële belangen. OpenAI beloofde aanvankelijk dat het superalignment-team twintig procent van de rekencapaciteit zou krijgen. Volgens vier medewerkers bleef het uiteindelijk bij één à twee procent. Jan Leike, die het team leidde, schreef bij zijn vertrek op X: “De veiligheidscultuur en -processen zijn ondergeschikt geraakt aan glimmende producten..”
Altman pleitte in 2023 nog publiekelijk voor strikte AI-wetgeving en verscheen voor de Amerikaanse Senaat om regelgeving te bepleiten. Volgens het New Yorker-artikel lobbyde OpenAI tegelijkertijd achter de schermen tegen Europese AI-regulering.
OpenAI bereidt zich voor op een beursintroductie bij een verwachte waardering van een biljoen dollar. Altman zou ooit tegen een oud-medewerker hebben gezegd dat hij niet gemotiveerd wordt door geld, maar door macht.