För farlig för världen?

Bild: Pixabay.

Anthropic är ett amerikanskt AI-företag baserat i San Francisco, grundat 2021 av syskonen Daniela Amodei och Dario Amodei tillsammans med tidigare medarbetare från OpenAI. De har utvecklat en serie stora språkmodeller (LLM) under namnet Claude, som konkurrerar med OpenAI:s ChatGPT och Google:s Gemini.
    Anthropics senaste AI-modell Claude Mythos uppges vara så kraftfull att den är en säkerhetsrisk för världen. (Värre än USA:s nuvarande president?)
    Claude Mythos är för farlig för att släppas för fri användning. Däremot har man låtit den testa webbläsaren Firefox öppna köllkod. Den avslöjade mer än ett dussin verifierbara säkerhetsbuggar, som Mozilla validerat och löst före den nyligen lanserade Firefox 148. För användare innebär det bättre säkerhet och stabilitet i Firefox.
    Bedömare inom techbranchen menar att Anthropics varningslarm är något av ett genidrag rent PR-mässigt. Att hävda att ens egen produkt är "för kraftfull för världen" är det ultimata skrytet i det pågående AI-kriget för att signalera överlägsenhet.
    BBC: Why AI companies want you to be afraid of them.
    Anthropic: Project Glasswing.
    Mozilla Distilled; Hardening Firefox with Anthropic’s Red Team.
    Anthropic: Partnering with Mozilla to improve Firefox’s security.