A tak jsme zpět ve světě děsivé umělé inteligence.
Já vím, říkal jsem, že o tom už nebudu psát – a vím, že mám pokračování série o bankrotu vodních společností – ale oni to prostě nechtějí nechat být, takže já taky ne.
Zrovna když jsem si myslel, že jsem venku, zatáhli mě zpátky dovnitř.
V mém posledním článku na toto téma jsem popsal podvodnou umělou inteligenci takto…
„Zbloudilé umělé inteligence“ se staly teorií úniku informací z laboratoří v technologickém sektoru, sci-fi hororovou premisou, která se vymyká rozumu a předstírá vágní představy o „odhaleních“ a „odpovědnosti“, zatímco podporuje paniku jako reakci a sociální kontrolu jako řešení.
Netušil jsem, že přesně v okamžiku, kdy jsem psal tato slova, se Wall Street Journal připravoval na vydání článku s titulkem :
Dalším „únikem z laboratoře“ by mohla být umělá inteligence – Nedávné narušení sandboxu demonstrují potřebu federálních ochranných opatření.
To mi přijde vtipné.
V dalších „děsivých“ článcích o umělé inteligenci z tohoto týdne byl deník Washington Post ohromen zjištěním, že interakce ChatGPT se používají v soudních řízeních .
Ano, firmy zabývající se umělou inteligencí zřejmě dělají to, co VŠECHNY velké technologické společnosti dělají už DESÍTKY LET, a špehují naše data a interakce. Ale najednou je to novinka.
Nová studie z Yaleovy univerzity zjistila, že – Bože můj – chatboti s umělou inteligencí možná manipulují s uživateli jako forma reklamy!
...opět, stejně jako všechny velké technologické firmy dělají neustále a dělají to už léta.
Vedoucí pracovník společnosti OpenAI listu Guardian řekl, že bychom se všichni měli připravit na „vytrvalé“ kybernetické útoky poháněné umělou inteligencí, pokud „nezavedeme nové bezpečnostní standardy“ .
A deník Times varuje , že umělou inteligenci by mohli využít „nezkušení“ teroristé k výrobě bomb nebo biologických zbraní.
Ale VELKÁ zpráva je, že Big Billy Billions se podělil o své VELKÉ myšlenky.
Ano, pan Gates sám – údajně – napsal dlouhou esej o budoucnosti umělé inteligence a o tom, jak děsivá by mohla být. Začíná…
Nastala turbulentní éra umělé inteligence. Rozhodnutí, která nyní děláme, jsou klíčová.
V téhle věci je spousta věcí k rozboru (opravdu si ji musíte přečíst), od jeho výzvy k pracovním místům „rezervovaným lidem“ až po jeho nápad zdanit využívání umělé inteligence a robotů, ale hlavně jeho myšlenky o potřebě regulace .
Nejlépe globální regulace:
I země, která si dá do pořádku vlastní domácnost, bude stále vystavena rizikům, která překračují hranice států. Proto bude nutné paralelně budovat mezinárodní organizaci.
To je „ to poselství“ . Většinu zbývajících 10 000 slov můžete ignorovat.
Odráží to pocity více než 1300 „zasvěcenců“ v oblasti umělé inteligence, kteří všichni podepsali otevřený dopis vyzývající vlády ke spolupráci při regulaci umělé inteligence a k donucení odvětví zpomalit jeho pokrok. Uvádějí přitom riziko, že „rozvoj schopností se rapidně zrychlí nad naši schopnost porozumět nebo ovládat výsledné systémy“.
To jasně navazuje na příběh o „nepoctivých agentech umělé inteligence“.
Zajímavé a možná i znepokojivé je, že esej Billa Gatese přirovnává umělou inteligenci k jaderným zbraním:
Existuje režim inspekcí jaderných zbraní, předpisy pro mezinárodní letectví a dohody na ochranu ozonové vrstvy. Nová globální organizace pro umělou inteligenci bude potřebovat prvky všech tří a dalších.
Možná ještě znepokojivější je, že Billy zdaleka není jediný, kdo toto srovnání provedl jen v posledních několika dnech.
Stává se to běžným refrénem . Překvapivě běžným . Tento další článek dokonce riziko spojuje a naznačuje, že umělá inteligence umožňuje náhodný odpálení jaderné bomby.
Ale nebojte se, Atlantic má řešení:
Jaký je „jediný způsob“, jak tuto technologii ovládat? Podtitul to jasně uvádí:
Lidstvo potřebuje mezinárodní smlouvu o nešíření umělé inteligence.
„Smlouva o nešíření jaderných zbraní“... jako s jadernými zbraněmi .
Timothy Garton Ash – jeden z nejméně příčetných publicistů Guardianu, na které jsem kdy reagoval, a to už je o něčem výmluvné – v článku pro Guardian uvádí přesně totéž srovnání. Ptá se:
Směřujeme k Hirošimě s umělou inteligencí?
...a zdá se být docela jistý, že odpověď zní „ano“.
Co přesně JE „AI Hirošima“? Nejsem si jistý a on to neříká.
Ale, a zastavte mě, pokud jste to už slyšeli, on ví, jak se tomu nejlépe vyhnout:
společně jednající, abychom ovládli nadlidskou sílu, kterou vytváříme.
Podobně panický názorový článek v titulcích New York Times :
Známe rizika umělé inteligence. Musíme jednat.
[ POZNÁMKA: To je původní titulek, od té doby ho změnili na „Varovná světla znovu blikají“ , nevím proč, možná byl originál i pro ně příliš hloupý]
Článek, jehož autorkou je Jen Easterlyová, bývalá ředitelka americké Agentury pro kybernetickou bezpečnost a bezpečnost infrastruktury, zdůrazňuje, že se v oblasti umělé inteligence objevují „varovné signály“ a že musíme jednat hned, než se stane něco špatného.
Není příliš specifická v tom, co by to mohlo být za špatnou věc , ale je jasné, že to bude OBROVSKÉ, protože to přirovnává k 11. září a finanční krizi z roku 2008.
Přestože přesně neví, čeho bychom se měli bát, má docela jasno v tom, co bychom měli dělat:
Naléhavě potřebujeme mechanismus včasného varování na bázi umělé inteligence, který shromažďuje slabé signály, představuje si, co by mohly znamenat dohromady, a vynutí rozhodnutí dříve, než je obraz ucelený.
Smyslem tohoto systému by bylo…
proměnit partnerství veřejného a soukromého sektoru […] ve skutečnou, operativní spolupráci: sdílení informací, které bylo včasné, relevantní a především proveditelné.
Nezní to krásně?
Pro někoho, kdo ztrácí přehled, zatím jsme přirovnávali umělou inteligenci k 11. září, finanční krizi v roce 2008 A Hirošimě. Aniž bychom se kdy – NIKDY – blíže blíže zabývali tím, proč by se alespoň trochu podobala něčemu z toho.
Je to velmi zvláštní. Nejsem si jistý, jestli si dokážu vzpomenout na takovou úroveň strachu s tak malým skutečnou formulací toho, čeho bychom se měli bát.
Ale vede mě to k myšlence, že v blízké budoucnosti může dojít k nějakému „incidentu“ souvisejícímu s umělou inteligencí, jen se možná ještě nerozhodli, o jaký jde.
Easterlyho použití paralely s 11. zářím může být jen hysterickou přehnanou reakcí, aktuálním odkazem na blížící se 25. výročí nebo téměř instinktivním posílením slabého narativu o „selhání představivosti“. Nebo to může být něco jiného. Možná náznak potenciálního rozsahu.
Měli bychom očekávat nějakou falešnou psychologickou operaci s umělou inteligencí?
Takový, co se blíží rozměrům 11. září, a který je připisován agentovi umělé inteligence, jenž se stal „zlodějem“?
Nebudu něco takového předpovídat, ale rozhodně to nevylučuji.