Máte ostych kopnout si do robotického psa s umělou inteligencí?

Kdo ponese odpovědnost za důsledky nehody způsobené autonomním vozidlem? Programátor, uživatel automobilu, majitel automobilky nebo snad účastníci provozu? Všichni najednou? Jak mohou o využívání a podobě algoritmů umělé inteligence rozhodovat ti, kteří nesou největší míru rizik spojených s jejich používáním? Na tyto a řadu dalších otázek hledá odpovědi Mark Coeckelbergh ve své knize Etika umělé inteligence, která v červnu vyšla po třech letech od svého vydání v Americe i v českém jazyce.

Nedávný nástup generativních modelů AI rozproudil celospolečenskou debatu o přínosech, možnostech a hrozbách umělé inteligence pro nejrůznější oblasti lidské činnosti. Kniha Marka Coeckelbergha, který se těmito tématy dlouhodobě zabývá a patří do skupiny odborníků, kteří se podílejí na tvorbě evropské legislativy týkající se umělé inteligence (nedávno byl představen návrh první evropské směrnice AI ACT regulující vývoj, uvádění na trh a používání umělé inteligence v Evropské unii), přináší inspiraci i pro vzdělávání.

Může nás umělá inteligence zničit?

Na tom, zda existuje reálná možnost rozvoje takzvané umělé superinteligence, nepanuje mezi odborníky shoda, přesto se ve veřejné debatě objevuje řada výzev, které před touto budoucností varují. Podle Coeckelbergha je ale na místě, abychom se spíše zamysleli nad tím, z čeho vůbec vycházejí naše představy o tom, co je lidské a co strojové a jaký mají tyto představy samotné vliv na technologický vývoj.

Upozorňuje, že bychom v diskusi o umělé inteligenci měli být schopni oddělovat své názory a náboženské a sci-fi představy, protože právě myšlenka vzniku živých bytostí z neživé hmoty stojí v původu řady náboženství. Samotný výzkum narativů o umělé inteligenci by se tak podle jeho názoru měl stát součástí zkoumání etiky týkající se umělé inteligence, protože bychom tak mohli lépe porozumět tomu, proč právě některé narativy převládají, kdo je vytváří a kdo z nich může mít prospěch.

rizika musí znát všichni

Z toho je zřejmé, že díky tomu, že přemýšlíme o umělé inteligenci, dozvídáme se také něco o nás samých, o tom, jak se chováme, jak rozumíme sobě a světu kolem nás. Co by nám ale také nemělo zůstat skryto, že přístup k technologiím a jejich využívání není mezi lidmi rovnoměrně rozložen a jedním z rizik, která s sebou umělá inteligence přináší, je další posilování těchto nerovností.

Týká se to celé řady oblastí od ochrany osobních dat až po ne/dostupnost rozvinutých technologií pro některé sociální skupiny nebo regiony. Již dnes algoritmy umělé inteligence ovlivňují to, jaké zprávy sledujeme, co nakupujeme nebo komu věříme. Lze očekávat, že zvláště v oblasti marketingu budou vznikat nejrůznější sofistikovaná řešení, která budou těžit z naší digitální stopy, nad kterou budeme mít i nadále čím dál menší kontrolu.

Zvláštní zřetel bychom podle něj proto měli věnovat dětem, starším lidem a dalším zranitelným skupinám, které se ve světě technologií tak dobře neorientují. Je třeba zohledňovat i jejich pohled a zájmy a nedělat z nich pouhé pasivní konzumenty, protože to jsou často právě oni, kdo nese největší míru rizik spojených s využíváním nových technologií. Řešením podle něj ale nejsou pouze zákazy a regulace – vedle toho bychom se měli zaměřit na vytvoření pozitivní etiky: na vizi dobrého života a prosperující společnosti a z ní při tvorbě pravidel vycházet.

Poslechněte si podcast Akademie věd, ve kterém s Markem Coeckelberghem na téma etických otázek spojených s umělou inteligencí hovoří Jitka Kostelníková.

Knihu Etika umělé inteligence vydal Filosofický ústav AV ČR v edici Dnešní svět.