Sikkerhetsleder slutter i OpenAI: — Kulturen er ødelagt
David Robinson, som ledet arbeidet med OpenAIs sikkerhetsrapporter, har sluttet. I The Atlantic skriver han at «prøv og feil»-metoden ikke holder når KI blir kraftigere.
David Robinson, en av lederne i OpenAIs team for sikkerhetssystemer, har sluttet i selskapet. I et essay i The Atlantic 3. oktober skriver han at kulturen i OpenAI er ødelagt, melder TechCrunch.
Robinson ledet arbeidet med sikkerhetsrapportene som fulgte OpenAIs store lanseringer, og var i selskapet i tre og et halvt år. Kritikken hans retter seg mot «iterativ lansering»: slipp produktet, finn feilen, tett hullet og gjenta. Ifølge Robinson gir det feil som blir større jo kraftigere systemene blir.
Han mener KI-selskaper bør drives mer som kjernekraftverk og flyplasser, med flere lag av sikkerhet, slik at én menneskelig feil ikke kan føre til katastrofe.
Avskjeden kommer samme uke som OpenAI stanset lanseringen av GPT-6.1 Astra av sikkerhetshensyn.
For norske bedrifter: Også i mindre skala gjelder prinsippet: test KI-løsninger grundig før de slippes til kunder, og ha en plan for hva som skjer når noe går galt.