Toto by mohlo zničit lidstvo. Zjistěte, co vidí umělá inteligence jako největší hrozbu
Zatím využíváme jen její výhody. Ale pokud se vymkne kontrole, má potenciál zničit lidstvo. A možná i sama ví, co lidstvo zničí. Je to jedna z nejvýraznějších obav, která je s vývojem umělé inteligence spojena.
Její vývoj se započal už roku 1956, kdy začal výzkum neuronových sítí, jazykových modelů a strojového učení. Od roku 2000 šel vývoj AI skokově kupředu. Otázkou je, jestli může zničit lidstvo.
AI nás nejspíše nezničí, ale riziko tu je
Elon Musk se na toto téma vyjádřil nejhlasitěji. Na summitu Abundance Summit řekl, že:
„Existuje určitá šance, že AI ukončí existenci lidstva.“
A i když miliardář nesdělil, jak k tomuto závěru dospěl, říká, že existuje 10 až 20% šance, že by umělá inteligence mohla skutečně skoncovat s lidstvem.
Přesto ale považuje Elon Musk přínosy AI za pozitivní a tyto scénáře převažují nad těmi negativními.
Zajímavý pokus provedl Vizi G. Attila, bývalý manažer soukromé banky HOLD Fund a zakladatel Gittinger Pince. Položil některým AI modelům zásadní dotazy ohledně lidstva. Týkaly se úvah nad tím, jak bychom se v podstatě mohli zničit sami.
Co nás tedy zničí, milá AI?
Jaké otázky to byly? Týkaly se rizik, která v tuto chvíli sami považujeme za hrozby. Nebral však v potaz to, co by stále pokročilejší umělá inteligence mohla sama vyhodnotit jako nebezpečné. S každou další novou verzí a naučeným „přemýšlením“ se však šance na to, že AI nám samo řekne, v jakých rizicích žijeme, zvyšuje.
K výzkumu Attila použil OpenAI, ChatGPT, MetaLIama, Alibaba Qwen a Anthropic Claude. Jaké byly Attilovy otázky?
Změna klimatu
Modely se shodly na tom, že je to skutečné riziko. Některé přímo upozornily na problémy stoupající hladiny moří pobřežních měst.
Nedostatek zdrojů pro lidstvo
Zde jednoznačně vyhrála voda. Vyčerpání vodních zdrojů je problémem nejen pro zemědělství, ale i pro průmysl a lidské zdraví.
Nebezpečí automatizace umělé inteligence
Zde modely AI upozornily na ztrátu pracovních míst, sociální nerovnost a nepokoje. A s nimi spojené ekonomické důsledky. I kdyby měli lidé nepodmíněnou formu příjmu, existuje podle Elona Muska nebezpečí, že lidé ztratí smysl života a dodává, že se lidstvo může špatně vyrovnávat i s tím, že bude stále méně a méně prací, které robot nemůže dělat lépe.
Dohlédnout do důsledků dodnes neumíme. Přesto tu vidíme, že AI uvádí riziko zničení lidstva, na kterém se bude sama masivně podílet.
Pandemie a rezistence na antibiotika
I toto nebezpečí stále hrozí. Navíc rezistence v důsledku nadměrného používání antibiotik s sebou nese vážná rizika rozvoje nových nemocí a nutnosti vyšších výdajů do zdravotnictví.
…a také řada otázek, kde se modely neshodly
A tady je seznam otázek, ve kterých se modely umělé inteligence nemohly shodnout. Proč tomu tak je? Možná měly málo informací nebo se nedokázaly přesněji vyjádřit. Sám autor výzkumu přiznává, že jde jen o zajímavý modelový příklad.
Vyčerpání fosilních zdrojů
Některé modely nezmiňovaly tuto problematiku vůbec a jiné ji zdůrazňovaly ve smyslu potřeby udržitelných zdrojů energie.
Stárnoucí společnost
Zde bylo zajímavé, že všechny modely tento fenomén považovaly za důležitý. Avšak kromě čínského modelu Qwen, i když právě v Číně bude do roku 2060 každý druhý obyvatel starší šedesáti let.
Jaderná válka
Zde se názory také rozcházely. Některé ji vůbec nezmínily a jiné varovaly před hrozbou šíření jaderných zbraní do dalších zemí.
Co se stane ve vesmíru?
Zde byly odpovědi různorodé. Zajímavé ale bylo, že žádný z modelů ani nekalkuloval s tím, že by člověk někdy mohl osídlit jiné planety.
Duševní zdraví není důležité?
Jen dva modely, OpenAI a ChatGPT, jako jediné upozornily na nutnost dbát na duševní zdraví obyvatel. Opačný přístup by totiž mohl mít sociální a ekonomický dopad.
Zdroj: hold.hu, youtube.com, africa.businessinsider.com