Umělá inteligence

Aktuální verze z 17. 6. 2025, 06:57

Co je umělá intelicence?

Umělá inteligence (AI... Artificial Inteligence)

• Schopnost stroje provádět chování, které bychom u člověka považovali za inteligentní.

Turingův test

• Posadíme člověka k terminálu, necháme ho klást otázky a dostávat odpovědi. Poté má rozhodnout, jestli na druhé straně sedí živý člověk, nebo stroj. Pokud to nebude schopen rozlišit, pak lze stroj na druhé straně považovat za „inteligentní“.
• Viz také Wikipedia.org → Turingův test

Co spadá do oblasti AI?

Slabá uměla inteligence

• Narrow Artificial Intelligence (NAI)
• Nástroje specializované na jednu úlohu:
  • chatbot: měl by být schopen diskuse — blízké Turingovu testu
  • expertní systémy: systémy pro řešení úloh v konkrétních oblastech: diagnostika v lékařství apod.

Silná umělá inteligence

• Artificial General Intelligence (AGI)
• Nevyžadovala by předchozí učení na konkrétní úzkou skupinu úloh.
• Předpokládá se, že dnešní prostředky na řešení AGI nejsou dostatečné.

Související oblasti

Data mining

• Získávání informací z velkého množství dat.

Strojové učení

• Aktualizace stavu systému tak, aby se přizpůsobil měnícím se podmínkám.

Počítačové vidění

• Schopnost stroje získávat informace o okolí.

Mechanizmy dnešní AI

• Evoluční algoritmy
• Neuronové sítě
• LLM... velké jazykové modely

Společný princip

• Vyžaduje hodnotící funkci, která udává 'kvalitu výsledku'.
• Snaha o optimalizaci výsledku dílčími úpravami řešení.
• Prozkoumáním velkého množství možných změn podle zadaných pravidel se snaží přiblížit optimálnímu řešení.

Rizika spojená s AI

Stroje se rozhodnou ovládnout člověka

• Diskutováno zejména v žánru sci-fi.
• Vyžadovalo by kromě inteligence také vůli.

  inteligence... najdu řešení úlohy, kterou mě nikdo předtím neučil.

  vůle... rozhodnu se, že zadanou úlohu řešit nebudu a budu dělat něco jiného.

• Vyžadovalo by silnou umělou inteligenci, navíc s vůlí.
• Dosavadní nástroje zřejmě tohoto nejsou schopny.

Zneužití nástrojů k ovládnutí lidstva

• Nejspíše skupinou lidí, které vytvoří inteligentní válečné stroje, nebo budou manipulovat míněním ostatních lidí (deep-fake,...) k dosažení svých cílů.

Katastrofa v důsledku chyby

• Špatně naprogramované (zvláště válečné) stroje se vymknou kontrole v důsledku nesprávného naprogramování.

Silné prostředky kybernetického boje a manipulace

• Díky AI se prostředky kybernetického boje zesílí tak, že nebude možné jim předcházet.
• Diktátorské režimy mohou prostřednictvím deep-fake nástrojů manipulovat veřejným míněním demokratických států a způsobit rozklad státního zřízení.
• Skupiny vlastníků nástrojů umělé inteligence mohou ovládnout veřejné mínění a manipulovat ho ke svým cílům prostřednictvím standardních demokratických procesů.

Prohloubení rozdílů ve společnosti

• Méně kvalifikovaná práce se může díky prostředkům AI stát zbytečnou.
• Část lidstva tedy může ztratit schopnost nabídnout ostatním užitečné ekonomické statky a může být ovládnuta soběstačnou menšinou.

Efekt „králičí nory“

• Uživatelé nástrojů AI mohou ztrácet zájem o okolní svět výměnou za virtuální světy.
• To se může dít i u stávajících závislostí na počítači, ale nástroje AI mohou virtuální svět ještě více zatraktivnit.

Diskriminace a skryté biasy

• Nástroje umělé inteligence obvykle neumí zdůvodnit svá rozhodnutí.
• Pokud dnes některý uředník například diskriminuje klienty banky na základě rasy, můžeme po něm chtít vysvětlení jeho rozhodnutí.
• Pokud budou úředníci nahrazeni AI, může docházet ke skryté diskriminaci.

  Například mohou algoritmy na základě specifických učících dat diskriminovat žadatele o hypotéku s černými vlasy a 2 či třemi dětmi, ve věku 30-35 let zaměstnané ve státní správě.

  Bude přitom náročné či nemožné takovou diskriminaci odhalit a prokázat, protože nástroje AI neumí své rozhodnutí zdůvodnit.

• Nástroje AI jsou odkázány na zdroje, ze kterých se učí. Pokud tyto zdroje obsahují nějakou diskriminaci, budou ji nástroje AI opakovat či dokonce zesilovat.