To zjistíte ve čtyřiadvacátém díle technologického podcastu FIT ČVUT Jedničky a Nuly. Co všechno dnes umí umělá inteligence zajistit a jak zařídit, aby se dala využívat bezpečně? Tyto a mnohé další otázky položila moderátorka podcastu Sara Polak vedoucímu Laboratoře robotických agentů a výzkumné skupiny Inteligentní agenti, prof. RNDr. Pavlu Surynkovi, Ph.D.
Co je to bezpečné využívání umělé inteligence?
„Přemýšlet nad touto otázkou mě přiměla výzva, že bychom ve vývoji umělé inteligence měli trochu zpomalit. To zpomalení má společenskou motivaci. Vytváření systémů umělé inteligence v poslední době probíhá velmi rychle, což vyvolává otázku, jestli dokážeme systémům, které vyvíjíme, vštípit správná pravidla. Existují varující příklady, kdy se nám to nepovedlo,“ vysvětluje prof. Pavel Surynek v podcastu a dodává: „Základní věc, kterou se snažíme vyvinout, je inteligentní agent. To je entita, která působí v nějakém prostředí skrze svoje efektory. Momentálně jsme v takové fázi pokroku, kdy umíme vytvořit poměrně mocné agenty, kteří mohou například ovládat elektřinu nebo řídit dopravu. Řízení takového agenta může mít silné dopady na reálný svět. Je otázka, jestli si můžeme toto propojení s reálným světem skutečně dovolit, jestli zvládneme nastavit pravidla tak, abychom nedostávali nečekané výsledky. Agent může splnit úkol, který mu zadáme, ale důsledky mohou být nežádoucí a nepřípustné. Problém nespočívá v tom, že bychom nevěděli, jaká pravidla musí dodržovat. Právě rychlost vývoje nás může zaskočit v tom, že to nestihneme udělat. Nestihneme dostatečně reflektovat to, co děláme.“
Odborník na AI, prof. RNDr. Pavel Surynek, Ph.D.
Řídit auto, ovládat chytré domácnosti nebo bezpečnostní kamery… To vše a mnoho dalšího umí už dnes zajistit umělá inteligence. Jak ale zařídit, aby se dala využívat bezpečně? Nejen to vám v podcastu prozradí prof. RNDr. Pavel Surynek, Ph.D., odborník na umělou inteligenci, vedoucí Laboratoře robotických agentů (RoboAgeLab) a výzkumné skupiny Inteligentní agenti (IAᴳ). Vystudoval teoretickou informatiku a umělou inteligenci na MFF UK. Působil na Univerzitě v Kóbe a Národním institutu pokročilé průmyslové vědy a technologie v Japonsku. V současnosti pracuje na výzkumu plánování, které koordinuje spolupráci mnoha robotů, a vymýšlí nové algoritmy pro automatizaci skladů. Tento projekt je financován GAČR. Na výzkumu spolupracuje s předními světovými pracovišti, jako jsou například Univerzita Jižní Kalifornie nebo Ben Gurionova univerzita v Negevu. Pokud vás jeho práce zaujala a chtěli byste se dozvědět víc, přečtěte si rozhovor s Pavlem Surynkem v našem časopise.
Jak využívat umělou inteligenci bezpečně?
„Jeden přístup je odpojit umělou inteligenci od reálného světa. Příkladem takového využití je ChatGPT, kdy umělé inteligenci pouze pokládáme otázky a ona nám na ně pouze odpovídá. Jedná se o extrémní řešení, které se zdá být nejvíce bezpečné, ale nese určitá omezení. Druhý přístup je snažit se o jakousi výchovu umělé inteligence tak, aby lidské hodnoty přešly do stroje. To ovšem vyžaduje čas, což nás přivádí k otázce, jestli ten vývoj umělé inteligence není příliš rychlý na to, abychom ta pravidla dokázali správně do toho stroje přenést. Musíme počítat s tím, že stroj nemá žádné vědomí.
Snažíme se především o to, aby každé rozhodnutí agenta bylo tzv. vysvětlitelné. To znamená, že jakmile udělá nějaké rozhodnutí (např. pohyb), musíme být schopni získat argumenty, proč se tak rozhodl, tedy posloupnost elementárních kroků, které k tomu rozhodnutí vedly. Díky tomu můžeme systém tzv. ladit, vystopovat příčinu špatného rozhodnutí a opravit ji. To je důležité zejména, když agenti přicházejí do styku s lidmi. Potřebujeme, aby byli bezpeční, a aby se ta bezpečnost dala matematicky dokázat. Agent nesmí svým záměrem nikoho poškodit,“ vysvětluje prof. Pavel Surynek v podcastu.
Máme dost času a jsme dost chytří na to, abychom správně definovali pravidla, která musí AI dodržovat? To vše a ještě mnohem více se dozvíte v podcastu.
O podcastu
Cílem podcastu Jedničky a Nuly je přiblížit nejnovější informační technologie široké veřejnosti a přispět tak k popularizaci oboru, který je v dnešní době v mnoha oblastech nepostradatelný. Zajímá vás umělá inteligence, superpočítače, studium na FIT nebo propojení IT a umění? Poslechněte si i předchozí díly:
Jak se dá IT využít k tvorbě hudby? – 10. 8. 2023
Jak jsem zvládl prvák na FIT ČVUT? – 10. 7. 2023
Jak se používají superpočítače? – 10. 6. 2023
Co mají společného Platón a technologie? – 10. 5. 2023
Jak se modelují exoplanety? – 10. 4. 2023
Jak fungují doporučovací systémy? – 10. 3. 2023
Přístupové karty – jejich výhody a rizika? – 10. 2. 2023
K čemu jsou nám superpočítače? – 10. 1. 2023
Jak počítačově simulovat chování lidí? – 10. 12. 2022
Jak se žije v době datové? – 10. 11. 2022
Veřejná data – hrozba, nebo příležitost? – 10. 10. 2022
Proč je matematika důležitá pro informatiku? – 10. 9. 2022
Jak zařídit, aby mi dal lajk Elon Musk? – 10. 8. 2022
Jak se ze školní lavice dostat až do kanceláře děkana? – 10. 7. 2022
Jak virtuální realita může přiblížit minulost? – 10. 6. 2022
Jak algoritmy doporučují obsah na internetu? – 10. 5. 2022
Jaká jsou rizika při používání stejných hesel? – 10. 4. 2022
Jsou auta plná moderních technologií bezpečná? – 10. 3. 2022
Jak se dá umělá inteligence využít při pozorování vesmíru? – 10. 2. 2022
Mohou roboti nahradit lidi ve skladech? – 10. 1. 2022
Proč se nebát kamer ve veřejném prostoru? – 10. 12. 2021
Dokážeme žít bez umělé inteligence? – 10. 11. 2021
Kdy nám budou drony doručovat nákupy? – 10. 10. 2021
Na další otázky ze světa jedniček a nul vám odpoví odborníci z FIT ČVUT společně se Sarou Polak vždy jednou měsíčně. A kde si můžete podcast poslechnout? Naleznete ho na stránkách fit.cvut.cz/podcast, nebo v aplikacích Spotify, Google Podcasts a Apple Podcasts pod názvem Jedničky a Nuly.
