Elon Muskkal kiegészülve neves mesterségesintelligencia-kutatók egész sora kéri közös, nyílt levélben az MI-fejlesztő társaságokat arra, hogy álljanak le minden nagyszabású kutatásukkal, mert ezek a rendszerek „mély kockázatokat rejtenek" a társadalom és az emberiség számára.

Az itt teljes egészében olvasható levél aláírói között a Tesla/Twitter/Space-x/stb.-vezér Musk mellett a legismertebb név az Apple-társalapító Steve Wozniak, és mások mellett Orbán Viktor egyik kedvenc történész/írója, Yuval Noah Harari.

A közös szöveg szerint az MI-laboratóriumok „kontrollvesztett" verseny résztvevői, és olyan gépi tanulásos rendszereket fejlesztenek és alkalmaznak, melyeket még ők maguk, az alkotók sem képesek megérteni, viselkedésüket kiszámítani, illetve megbízhatóan ellenőrizni.

Az aláírók a fenti aggályok miatt az MI-laborokat arra kérik, legalább 6 hónapra azonnal állítsanak le minden olyan kutatást, mely a GPT-4-nél erősebb MI-rendszerekkel foglalkozik. A szünetelésnek nyilvánosnak és ellenőrizhetőnek kell lennie, és abban a műfaj minden kulcsszereplőjének részt kell vennie, követeli a levél. Azt írták:

Ha ilyen leállást nem lehet gyorsan tető alá hozni, akkor a kormányoknak kell közbelépniük, és moratóriumot kell kihirdetniük."

A levél szerint a leállást arra kellene használni, hogy kifejlesszenek és alkalmazzanak egy sor biztonsági protokollt, melyet aztán szigorúan ellenőrizhetnek független, külsős szakértők. Ezeknek a protokolloknak biztosítaniuk kell, hogy a nekik megfelelően felépített rendszerek „minden kétséget kizáróan biztonságosak."

A The Verge szerint valószínűtlen, hogy a levélnek bármi hatása lenne a jelen techklímában, amikor a Google és a Microsoft is versenyt futva dobja piacra a saját MI-termékét, sokszor biztonsági és etikai aggályokat félretolva.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.