Měli bychom se bát umělé inteligence?
Umělá inteligence (AI), ohlašovaná jako blížící se technologická revoluce, se uplatňuje ve stále více oblastech každodenního života, což vyvolává obavy i nadšení. Zastánci jsou přesvědčeni, že umělá inteligence pomůže vyřešit mnoho problémů, kterým lidstvo čelí (a vytvoří několik nových miliardářů). Odpůrci poukazují na dosud neznámá rizika, která představují stroje schopné myslet a jednat nekonečně rychleji než lidé.
Jak však upozorňuje Nello Cristianini, profesor umělé inteligence na univerzitě v Bathu (Velká Británie), v článku The Conversation , „žádný z výše uvedených scénářů“ – ať už si je představují odborníci nebo podnikatelé v oboru – „zřejmě nenaznačuje konkrétní cestu k vyhynutí lidstva. To znamená, že jsme ponecháni s obecným pocitem znepokojení, ale bez možných opatření, která bychom mohli přijmout“. Tento postoj sdílí i Christopher Wylie, whistleblower skandálu Cambridge Analytica, v článku, který zveřejňujeme tento týden.
Podobný názor zastává v článku (pro předplatitele) v časopise New Scientist výzkumnice etiky Mhairi Aitkenová z Institutu Alana Turinga. Podle ní jsou tato apokalyptická varování „děsivá, protože rozhodujícím způsobem ovlivňují debatu o důsledcích umělé inteligence“. Toto myšlení, hluboce zakořeněné v kolektivní představivosti, „se nyní vplížilo do politické a regulační sféry. To je znepokojující, říká, „protože důkazy na podporu těchto alarmistických teorií prakticky neexistují a neobstojí při zkoumání“. Podle Aitkenové je cílem těchto varování „odvrátit požadavky na transparentnost a vymazat debatu o odpovědnosti developerů“.
A jak se k tomu staví Evropa? Pro jednou se Evropská unie k tomuto problému postavila rychle a vypracovala nařízení – tzv. AI Act . Má vstoupit v platnost v roce 2024 a „stanoví třídy rizika, pro které jsou certifikační postupy, které musí výrobce provádět, přísnější s rostoucím rizikem“, vysvětluje Francesca Lagioia, výzkumná pracovnice z právního a technického oddělení Evropské komise, v rozhovoru pro časopis „The Guardian“. Internazionale‘ Annamaria Testa. „Rizikové třídy musí zaručit spolehlivost a úroveň bezpečnosti systému prostřednictvím předběžných kontrol a postupů shody a certifikace, tj. dříve, než jsou tyto technologie uvedeny na trh a používány a než dojde ke škodám.“ Upozorňuje na hlavní omezení tohoto systému: „Výrobci budou moci sami posoudit, zda dodržují normy pro vysoce rizikové systémy“.
Také v Internazionale , Francesca Spinelli hovoří s Caterinou Rodelli, analytičkou organizace Access now, která se zabývá digitálními svobodami, o nedostatcích zákona o umělé inteligenci. Rodelli poukazuje na to, že odvolací mechanismy pro rizikové systémy neumožňují organizacím veřejného zájmu podat odvolání jménem jednotlivce, protože „orgány se obávají, že budou zahlceny žalobami podanými nevládními organizacemi“. Dodává, že současný text „rovněž vylučuje z kategorie vysoce rizikových systémů předvídání migrace, které jsou velmi oblíbené u vlád odhodlaných blokovat příchod žadatelů o azyl a „nelegálních migrantů“ a také u přijímacích organizací“. Přibližně šedesát lidskoprávních organizací zveřejnilo na své straně otevřený dopis k tomuto dopisu Liberties adresované evropským zákonodárcům, v němž vyzývají, aby Akt o umělé inteligenci „vyžadoval, aby EU přijala důkladná ochranná opatření na ochranu samotných základů, na nichž naše Unie stojí. Zneužívání systémů umělé inteligence, včetně neprůhledného a nezodpovědného nasazování systémů umělé inteligence veřejnými orgány, představuje vážnou hrozbu pro právní stát a demokracii.“.
Na stejné téma
Generativní umělá inteligence pomalu vstupuje do života dětí
Nathalie Koubayová | AlgorithmWatch | 25. září | CZ
Společnost Amazon vyvíjí pro své zařízení Alexa Echo funkci, která bude pomocí vlastního velkého jazykového modelu (LLM) vytvářet pohádky pro děti na dobrou noc. Systém generuje vlastní příběhy na základě zadání dětí a funkcí, jako je rozpoznávání postav prostřednictvím kamery zařízení. Cílem této iniciativy je konkurovat ostatním hlasovým asistentům od technologických společností, jako jsou Google a Apple. Amazon se však při zavádění umělé inteligence pro děti potýká s obavami o ochranu soukromí, protože společnost se v minulosti podílela na urovnání sporu ve výši 25 milionů dolarů za nezákonné shromažďování údajů dětí bez souhlasu rodičů. V současné době se připravují právní předpisy pro regulaci technologií umělé inteligence zaměřených na děti, přičemž v Evropské unii a některých státech USA platí přísnější pravidla.
Umělá inteligence je hrozbou pro svobodu internetu
Leonhard Pitz | Netzpolitik | 5. října | DE
Zpráva Freedom of the Net 2023 nevládní organizace Freedom House odhaluje, že umělá inteligence „je další hrozbou pro svobodu internetu“. „ . Tato technologie je v mnoha zemích využívána k posilování dezinformací a k sofistikovanější cenzuře. Používání umělé inteligence vládami v kombinaci se samomoderací ze strany platforem tak vede k poklesu svobody internetu. Zpráva zdůrazňuje potřebu regulace založené na lidských právech, transparentnosti a nezávislém dohledu.
Za přečtení stojí také
Thierry Breton v aréně Elona Muska
Markus Reuter | Netzpolitik | 11. října | DE
Komisař EU pro vnitřní trh Thierry Breton poslal ze svého účtu na konkurenční (a otevřené) síti Mastodon dopis rtuťovitému šéfovi sociální sítě X (dříve Twitter). Breton v něm poukazuje na dezinformace, které se na X šířily po útocích Hamásu na Izrael, a připomíná Elonu Muskovi, že zákon o digitálních službách vyžaduje, aby X do 24 hodin odstranil nelegální obsah. I když účel dopisu dává smysl, podotýká Markus Reuter,„máme tu ukázku politiky nad právem EU, veřejnou výměnu názorů mezi dvěma muži v emotivním boxerském ringu sociálních médií„.
Model členství v EU založený na „stanovené nabídce“ selhává. Je čas na přístup „à la carte“.
Alberto Alemanno | The Guardian | 10. října | CZ
Potenciální členství nových států v EU, zejména Ukrajiny, „nabízí nepřehlédnutelnou příležitost učinit Unii strategicky nezávislou v hrozivém novém světovém řádu a schopnou vést v naléhavých klimatických otázkách“, říká profesor evropského práva na HEC (a člen poradního sboru Voxeurop), který vyzývá k revizi řízení EU. Dvě iniciativy, jedna Evropského parlamentu a druhá francouzsko-německé skupiny, zaměřené na reformu struktur EU – včetně možného vícerychlostního uspořádání – by mohly podpořit integraci a pomoci EU čelit globálním výzvám.
Přeložil Harry Bowden
