Fler AI-toppar varnar för utvecklingen

Bild: Pixabay AI.

Säkerhetschefen för AI-bolaget Open AI, David Robinson, hoppar av.
    I ett öppet brev i den amerikanska tidskriften The Atlantic larmar han om att bolaget har stora säkerhetsbrister. ”Dagens och morgondagens AI-system är betydligt mer kapabla och farligare än de system vi byggde för bara sex månader sedan”, skriver han.
    Skandalerna från Open AI har avlöst varandra under en tid. Bland annat bröt sig bolagets AI-agenter loss och hackade bolaget Hugging Face. Sedan dess har flera amerikanska myndigheters sajter blivit ”besökta” av Open AI:s agenter.
    Robinson är bara en av flera som larmat om vad AI kan ställa till med. Geoffrey Irving är en annan tidigare Open AI-anställd, numera forskningschef på AI-säkerhetsbolaget Resolution, varnar i Time Magazine: ”Vi kommer inte att veta svaren på AI:s viktigaste frågor förrän det är för sent”.
    David Robinsons öppna brev i The Atlantic: I Quit OpenAI Because Its Culture Is Broken.
    Time Magazine: We Won't Know the Answers to AI's Most Important Questions Until It's Too Late.