Umělá inteligence
Z MiS
Obsah |
Co je umělá intelicence?
- Umělá inteligence (AI... Artificial Inteligence)
- Schopnost stroje provádět chování, které bychom u člověka považovali za inteligentní.
- Turingův test
- Posadíme člověka k terminálu, necháme ho klást otázky a dostávat odpovědi. Poté má rozhodnout, jestli na druhé straně sedí živý člověk, nebo stroj. Pokud to nebude schopen rozlišit, pak lze stroj na druhé straně považovat za „inteligentní“.
- Viz také Wikipedia.org → Turingův test
Co spadá do oblasti AI?
- Slabá uměla inteligence
- Narrow Artificial Intelligence (NAI)
- Nástroje specializované na jednu úlohu:
- chatbot: měl by být schopen diskuse — blízké Turingovu testu
- expertní systémy: systémy pro řešení úloh v konkrétních oblastech: diagnostika v lékařství apod.
- Silná umělá inteligence
- Artificial General Intelligence (AGI)
- Nevyžadovala by předchozí učení na konkrétní úzkou skupinu úloh.
- Předpokládá se, že dnešní prostředky na řešení AGI nejsou dostatečné.
Související oblasti
- Data mining
- Získávání informací z velkého množství dat.
- Strojové učení
- Aktualizace stavu systému tak, aby se přizpůsobil měnícím se podmínkám.
- Počítačové vidění
- Schopnost stroje získávat informace o okolí.
Mechanizmy dnešní AI
- Evoluční algoritmy
- Neuronové sítě
- LLM... velké jazykové modely
- Společný princip
- Vyžaduje hodnotící funkci, která udává 'kvalitu výsledku'.
- Snaha o optimalizaci výsledku dílčími úpravami řešení.
- Prozkoumáním velkého množství možných změn podle zadaných pravidel se snaží přiblížit optimálnímu řešení.
Rizika spojená s AI
- Stroje se rozhodnou ovládnout člověka
- Diskutováno zejména v žánru sci-fi.
- Vyžadovalo by kromě inteligence také vůli.
- inteligence... najdu řešení úlohy, kterou mě nikdo předtím neučil.
- vůle... rozhodnu se, že zadanou úlohu řešit nebudu a budu dělat něco jiného.
- Vyžadovalo by silnou umělou inteligenci, navíc s vůlí.
- Dosavadní nástroje zřejmě tohoto nejsou schopny.
- Zneužití nástrojů k ovládnutí lidstva
- Nejspíše skupinou lidí, které vytvoří inteligentní válečné stroje, nebo budou manipulovat míněním ostatních lidí (deep-fake,...) k dosažení svých cílů.
- Katastrofa v důsledku chyby
- Špatně naprogramované (zvláště válečné) stroje se vymknou kontrole v důsledku nesprávného naprogramování.
- Silné prostředky kybernetického boje a manipulace
- Díky AI se prostředky kybernetického boje zesílí tak, že nebude možné jim předcházet.
- Diktátorské režimy mohou prostřednictvím deep-fake nástrojů manipulovat veřejným míněním demokratických států a způsobit rozklad státního zřízení.
- Skupiny vlastníků nástrojů umělé inteligence mohou ovládnout veřejné mínění a manipulovat ho ke svým cílům prostřednictvím standardních demokratických procesů.
- Prohloubení rozdílů ve společnosti
- Méně kvalifikovaná práce se může díky prostředkům AI stát zbytečnou.
- Část lidstva tedy může ztratit schopnost nabídnout ostatním užitečné ekonomické statky a může být ovládnuta soběstačnou menšinou.
- Efekt „králičí nory“
- Uživatelé nástrojů AI mohou ztrácet zájem o okolní svět výměnou za virtuální světy.
- To se může dít i u stávajících závislostí na počítači, ale nástroje AI mohou virtuální svět ještě více zatraktivnit.
- Diskriminace a skryté biasy
- Nástroje umělé inteligence obvykle neumí zdůvodnit svá rozhodnutí.
- Pokud dnes některý uředník například diskriminuje klienty banky na základě rasy, můžeme po něm chtít vysvětlení jeho rozhodnutí.
- Pokud budou úředníci nahrazeni AI, může docházet ke skryté diskriminaci.
- Například mohou algoritmy diskriminovat uživatele se 2 či třemi dětmi, ve věku 30-35 let zaměstnané ve státní správě.
- Bude přitom náročné či nemožné takovou diskriminaci odhalit a prokázat.
- Nástroje AI jsou odkázány na zdroje, ze kterých se učí. Pokud tyto zdroje obsahují nějakou diskriminaci, budou ji nástroje AI opakovat či dokonce zesilovat.
