Mali by sme sa báť umelej inteligencie?
Umelá inteligencia (AI), ktorá je ohlasovaná ako blížiaca sa technologická revolúcia, sa uplatňuje v čoraz väčšom počte oblastí každodenného života, čo vyvoláva obavy aj nadšenie. Priaznivci sú presvedčení, že umelá inteligencia pomôže vyriešiť mnohé problémy, ktorým ľudstvo čelí (a vytvorí niekoľko nových miliardárov). Odporcovia poukazujú na zatiaľ neznáme riziká, ktoré predstavujú stroje schopné myslieť a konať nekonečne rýchlejšie ako ľudia.
Ako však upozorňuje Nello Cristianini, profesor umelej inteligencie na University of Bath (Spojené kráľovstvo), v článku The Conversation „zdá sa, že žiadny z uvedených scenárov“ – či už si ich predstavujú odborníci alebo podnikatelia v priemysle – „nevytvára konkrétnu cestu k vyhynutiu ľudstva. To znamená, že nám zostáva všeobecný pocit znepokojenia, ale bez možných opatrení“. Tento postoj zdieľa aj Christopher Wylie, whistleblower, ktorý stojí za škandálom Cambridge Analytica, v článku, ktorý uverejňujeme tento týždeň.
Podobný názor zastáva v článku (pre predplatiteľov) v časopise New Scientist výskumníčka etiky Mhairi Aitkenová z Inštitútu Alana Turinga. Podľa nej sú tieto apokalyptické varovania „desivé, pretože rozhodujúcim spôsobom ovplyvňujú diskusiu o dôsledkoch umelej inteligencie“. Toto myslenie, hlboko zakorenené v kolektívnej predstavivosti, „sa teraz vkradlo do politickej a regulačnej sféry. To je podľa nej znepokojujúce, „pretože dôkazy na podporu týchto panikárskych teórií prakticky neexistujú a neobstoja pri skúmaní“. Podľa Aitkenovej je cieľom týchto varovaní „odvrátiť požiadavky na transparentnosť a vymazať diskusiu o zodpovednosti developerov“.
A ako je na tom Európa? Európska únia sa touto otázkou zaoberala veľmi rýchlo a vypracovala nariadenie – tzv. AI Act . Má nadobudnúť účinnosť v roku 2024 a „stanovuje triedy rizika, pre ktoré sú certifikačné postupy, ktoré má výrobca vykonávať, prísnejšie s rastúcim rizikom“, vysvetľuje Francesca Lagioia, výskumná pracovníčka na právnom a technickom oddelení Európskej komisie, v rozhovore pre Internazionale Annamaria Testa. „Rizikové triedy musia zaručiť úroveň spoľahlivosti a bezpečnosti systému prostredníctvom predbežných kontrol a postupov dodržiavania a certifikácie, t. j. predtým, ako sa tieto technológie uvedú na trh a začnú sa používať a skôr, ako dôjde k akejkoľvek škode.“ Upozorňuje na hlavné obmedzenia tohto systému: „výrobcovia budú môcť sami posúdiť dodržiavanie noriem vysokorizikových systémov“.
Tiež v Internazionale , Francesca Spinelli sa rozpráva s Caterinou Rodelli, analytičkou organizácie Access now, ktorá sa zaoberá digitálnymi slobodami, o nedostatkoch zákona o umelej inteligencii. Rodelli poukazuje na to, že odvolacie mechanizmy pre systémy s vysokým rizikom neumožňujú organizáciám vo verejnom záujme podať odvolanie v mene jednotlivca, pretože „orgány sa obávajú, že budú zahltené žalobami podanými mimovládnymi organizáciami“. Dodáva, že súčasné znenie „vylučuje z kategórie vysokého rizika aj systémy predpovedania migrácie, ktoré sú veľmi obľúbené u vlád odhodlaných blokovať príchod žiadateľov o azyl a „nelegálnych migrantov“, ako aj u prijímacích organizácií“. Približne šesťdesiat ľudskoprávnych organizácií zverejnilo otvorený list o Liberties adresovaných európskym zákonodarcom, v ktorých žiadajú, aby sa v Akte o umelej inteligencii „od EÚ vyžadovalo prijatie pevných záruk na ochranu samotných základov, na ktorých naša Únia stojí. Zneužívanie systémov UI vrátane netransparentného a nezodpovedného nasadenia systémov UI verejnými orgánmi predstavuje vážnu hrozbu pre právny štát a demokraciu.“.
Na tú istú tému
Generatívna umelá inteligencia pomaly vstupuje do života detí
Nathalie Koubayová | AlgorithmWatch | 25. septembra | SK
Spoločnosť Amazon vyvíja pre svoje zariadenie Alexa Echo funkciu na vytváranie rozprávok na dobrú noc pre deti pomocou vlastného veľkého jazykového modelu (LLM). Systém generuje vlastné príbehy na základe vstupných údajov detí a funkcií, ako je rozpoznávanie znakov prostredníctvom kamery zariadenia. Cieľom tejto iniciatívy je konkurovať ostatným hlasovým asistentom od technologických spoločností, ako sú Google a Apple. Prechod spoločnosti Amazon na umelú inteligenciu vhodnú pre deti však narazil na obavy o ochranu súkromia, keďže spoločnosť sa v minulosti zapojila do vyrovnania vo výške 25 miliónov dolárov za nezákonné zhromažďovanie údajov detí bez súhlasu rodičov. V súčasnosti sa pripravujú právne predpisy na reguláciu technológií umelej inteligencie zameraných na deti, pričom v Európskej únii a niektorých štátoch USA platia prísnejšie pravidlá.
AI je hrozbou pre slobodu internetu
Leonhard Pitz | Netzpolitik | 5. októbra | DE
Správa Freedom of the Net 2023 mimovládnej organizácie Freedom House odhaľuje, že umelá inteligencia „je ďalšou hrozbou pre slobodu internetu“. „ . Táto technológia sa v mnohých krajinách využíva na šírenie dezinformácií a na zdokonalenie cenzúry. Používanie umelej inteligencie vládami v kombinácii so samoreguláciou platforiem tak vedie k úpadku slobody internetu. Správa zdôrazňuje potrebu regulácie založenej na ľudských právach, transparentnosti a nezávislom dohľade.
Tiež stojí za prečítanie
Thierry Breton v aréne Elona Muska
Markus Reuter | Netzpolitik | 11. októbra | DE
Komisár EÚ pre vnútorný trh Thierry Breton poslal zo svojho účtu na konkurenčnej (a otvorenej) sieti Mastodon list rtuťovitému šéfovi sociálnej siete X (predtým Twitter). Breton v ňom poukazuje na dezinformácie, ktoré sa šírili v spoločnosti X po útokoch Hamasu na Izrael, a pripomína Elonovi Muskovi, že zákon o digitálnych službách vyžaduje, aby spoločnosť X odstránila nezákonný obsah do 24 hodín. Hoci účel listu dáva zmysel, poznamenáva Markus Reuter,„máme tu politiku nad právom EÚ, verejnú výmenu názorov medzi dvoma mužmi v emocionálnom boxerskom ringu sociálnych médií„.
Model členstva v EÚ založený na „stanovenom menu“ zlyháva. Je čas na prístup „à la carte“
Alberto Alemanno | The Guardian | 10. októbra | SK
Potenciálne členstvo nových štátov v EÚ, najmä Ukrajiny, „ponúka nevyužitú príležitosť, aby sa Únia stala strategicky nezávislou v hrozivom novom svetovom poriadku a schopnou viesť krízovú situáciu v oblasti klímy“, hovorí tento profesor európskeho práva na HEC (a člen poradného výboru Voxeurop), ktorý vyzýva na revíziu riadenia EÚ. Dve iniciatívy, jedna z dielne Európskeho parlamentu a druhá francúzsko-nemeckej skupiny, zamerané na reformu štruktúr EÚ vrátane možného viacrýchlostného usporiadania, by mohli podporiť integráciu a pomôcť EÚ čeliť globálnym výzvam.
Preložil Harry Bowden
