Zobrazit zdroj

[[Category:VSE]][[Category:Informatika]][[Category:Principy IT]]

== Co je umělá intelicence? ==

; Umělá inteligence (''AI... Artificial Inteligence'')
* Schopnost stroje provádět chování, které bychom u člověka považovali za inteligentní.

; Turingův test
* Posadíme člověka k&nbsp;terminálu, necháme ho klást otázky a dostávat odpovědi. Poté má rozhodnout, jestli na druhé straně sedí živý člověk, nebo stroj. Pokud to nebude schopen rozlišit, pak lze stroj na druhé straně považovat za „inteligentní“.
* Viz také [https://cs.wikipedia.org/wiki/Turing%C5%AFv_test Wikipedia.org &rarr; Turingův test]

== Co spadá do oblasti AI? ==

; Slabá uměla inteligence
* ''Narrow Artificial Intelligence (NAI)''
* Nástroje specializované na jednu úlohu: 
** chatbot: měl by být schopen diskuse — blízké Turingovu testu
** expertní systémy: systémy pro řešení úloh v&nbsp;konkrétních oblastech: diagnostika v&nbsp;lékařství apod.

; Silná umělá inteligence
* ''Artificial General Intelligence (AGI)''
* Nevyžadovala by předchozí učení na konkrétní úzkou skupinu úloh.
* Předpokládá se, že dnešní prostředky na řešení AGI nejsou dostatečné.

== Související oblasti ==

; Data mining
* Získávání informací z&nbsp;velkého množství dat.

; Strojové učení
* Aktualizace stavu systému tak, aby se přizpůsobil měnícím se podmínkám.

; Počítačové vidění
* Schopnost stroje získávat informace o okolí.

== Mechanizmy dnešní AI ==
* Evoluční algoritmy
* Neuronové sítě
* LLM... velké jazykové modely

; Společný princip
* Vyžaduje hodnotící funkci, která udává 'kvalitu výsledku'.
* Snaha o optimalizaci výsledku dílčími úpravami řešení.
* Prozkoumáním velkého množství možných změn podle zadaných pravidel se snaží přiblížit optimálnímu řešení.

== Rizika spojená s&nbsp;AI ==

; Stroje se rozhodnou ovládnout člověka
* Diskutováno zejména v&nbsp;žánru sci-fi.
* Vyžadovalo by kromě ''inteligence'' také ''vůli''.
*: ''inteligence''... najdu řešení úlohy, kterou mě nikdo předtím neučil.
*: ''vůle''... rozhodnu se, že zadanou úlohu řešit nebudu a budu dělat něco jiného.
* Vyžadovalo by ''silnou umělou inteligenci'', navíc s&nbsp;vůlí.
* Dosavadní nástroje zřejmě tohoto nejsou schopny.

; Zneužití nástrojů k&nbsp;ovládnutí lidstva
* Nejspíše skupinou lidí, které vytvoří inteligentní válečné stroje, nebo budou manipulovat míněním ostatních lidí (deep-fake,...) k&nbsp;dosažení svých cílů.

; Katastrofa v&nbsp;důsledku chyby
* Špatně naprogramované (zvláště válečné) stroje se vymknou kontrole v&nbsp;důsledku nesprávného naprogramování.

; Silné prostředky kybernetického boje a manipulace
* Díky AI se prostředky kybernetického boje zesílí tak, že nebude možné jim předcházet.
* Diktátorské režimy mohou prostřednictvím deep-fake nástrojů manipulovat veřejným míněním demokratických států a způsobit rozklad státního zřízení.
* Skupiny vlastníků nástrojů umělé inteligence mohou ovládnout veřejné mínění a manipulovat ho ke svým cílům prostřednictvím standardních demokratických procesů.

; Prohloubení rozdílů ve společnosti
* Méně kvalifikovaná práce se může díky prostředkům AI stát zbytečnou.
* Část lidstva tedy může ztratit schopnost nabídnout ostatním užitečné ekonomické statky a může být ovládnuta soběstačnou menšinou.

; Efekt „králičí nory“
* Uživatelé nástrojů AI mohou ztrácet zájem o okolní svět výměnou za virtuální světy.
* To se může dít i u stávajících závislostí na počítači, ale nástroje AI mohou virtuální svět ještě více zatraktivnit.

; Diskriminace a skryté biasy
* Nástroje umělé inteligence obvykle neumí zdůvodnit svá rozhodnutí.
* Pokud dnes některý uředník například diskriminuje klienty banky na základě rasy, můžeme po něm chtít vysvětlení jeho rozhodnutí.
* Pokud budou úředníci nahrazeni AI, může docházet ke skryté diskriminaci.
*: ''Například mohou algoritmy diskriminovat uživatele se 2&nbsp;či třemi dětmi, ve věku 30-35&nbsp;let zaměstnané ve státní správě.''
*: Bude přitom náročné či nemožné takovou diskriminaci odhalit a prokázat.
* Nástroje AI jsou odkázány na zdroje, ze kterých se učí. Pokud tyto zdroje obsahují nějakou diskriminaci, budou ji nástroje AI opakovat či dokonce zesilovat.