Nobelpristagaren Geoffrey Hinton varnar för AI

Ännu en gång har Nobelpristagaren i fysik, Geoffrey Hinton, varnat för att AI kan bli ett existentiellt hot. Det gjorde han i sitt tacktal under Nobelbanketten:

Ers Majestäter, Ers Kungliga Högheter. Ers excellencer, kära pristagare. Mina damer och herrar.
    Nobelkommittérna för fysik och kemi har i år uppmärksammat den dramatiska utvecklingen hos en ny sort AI som använder artificiella neurala nätverk för att lösa svåra dataproblem.
    Den nya sortens AI kan skickligt efterlikna mänsklig intuition snarare än logik. Med den kan vi skapa högintellligenta och kunniga assistenter som kan öka produktiviteten inom nästan alla branscher. Om behållningen av den ökade produktiviteten fördelas jämnt blir det ett fantastiskt framsteg för hela mänskligheten.
    Tyvärr finns det många risker på kort sikt med den snabba AI-utvecklingen. Den har redan ökat motsättningarna genom att erbjuda människor innehåll som gör dem upprörda. AI används redan av auktoritära regimer för massövervakning och av cyberbrottslingar som ägnar sig åt nätfiske.
    I en nära framtid kan AI användas till att skapa hemska nya virus och fasansfulla vapen som själva beslutar vilka som ska dödas och lemlästas. Dessa kortsiktiga risker kräver ett omedelbart och kraftfullt bemötande från regeringar och organisationer. Det uppstår också ett mer långsiktigt existentiellt hot när vi skapar digitala varelser som är smartare än vi. Vi har ingen aning om huruvida vi kan behålla kontrollen.
    Men vi vet nu att om de skapas av företag med kortsiktiga vinstintressen sätter de inte vår säkerhet i första hand. Vi behöver forska i hur vi förhindrar att dessa nya varelser ska vilja ta över. Det är inte längre science fiction.

Geoffrey Hinton, född 1947 i Wimbledon i London, brittisk kognitiv psykolog och datavetare samt Fellow of the Royal Society. Tillsammans med John Hopfield tilldelades han Nobelpriset i fysik 2024 för grundläggande upptäckter och uppfinningar som möjliggör maskininlärning med artificiella neuronnätverk.
    Han är mest känd för sitt arbete med artificiella neuronnät. Hinton har arbetat för Google och är professor inom datavetenskap vid University of Toronto. Han är aktiv inom deep learning-fältet och var en av de första forskare som visade användningen av generaliserad backpropagation-algoritm för att träna flera lager neuronnät. År 2023 sa han upp sig från Google för att öppet kunna kritisera den teknik han själv skapat. Hinton menar att han ångrar delar av sitt livsverk och har varnat för AI som människan inte kan kontrollera.
    Hör hans tacktal på Nobelbanketten på Svt: Fysikpristagaren Geoffrey Hintons tal.

Geoffrey Hintons liv har förändrats sedan han vann Nobelpriset.