I ett öppet brev signerat av bland andra Teslamiljardären och Twitterägaren Elon Musk varnar man för att systemen som håller på att utvecklas kan utgöra en risk för samhället och mänskligheten.

Brevet publiceras hos Future of Life Institute, en organisation i Boston som arbetar för att minska existentiella risker mänskligheten står inför, i synnerhet existentiell risk orsakad av artificiell generell intelligens.

LÄS ÄVEN: Googleanställd larmade om att AI utvecklat känslor – stängdes av

En av grundarna är den svenske professorn Max Tegmark som också är av dem som skrivit under brevet. Ytterligare ett av de större namnen på listan är Apple-grundaren Steve Wozniak.

– Utvecklingen går så snabbt att politikerna inte riktigt hunnit med. Därför behöver vi ta en liten paus nu så att samhället kan komma ikapp, säger Max Tegmark, professor i fysik och forskare inom AI, till statstelevisionen.

– Vi har redan sett att GPT-4 och sådana system har rekommenderat folk att skilja sig eller uppmuntrat ungdomar att begå självmord.

Sex månaders stopp

I brevet uppmanar man AI-laboratorier att omedelbart pausa utvecklingen av AI-system då man befarar att de annars kan utgöra en risk för samhället och mänskligheten. De skulle bland annat kunna orsaka ekonomiska och politiska störningar.

Uppehållet anser man bör gälla i åtminstone sex månader eller tills dess att gemsamma säkerhetsprotokoll finns på plats.

I skrivande stund har över 1 300 personer undertecknat brevet som publiceras ett par veckor efter att forskningslaboratoriet Open AI presenterade den fjärde versionen av sitt omtalade GPT-program, GPT-4.

Europol utreder

I veckan meddelade Europol att man undersöker om AI kan komma att utnyttjas i kriminella syften.

LÄS ÄVEN: Rapport: AI kan ta över flera hundra miljoner jobb