Etika, filozofie a rizika
🔥
Diskuze
V jakých kontextech by se GAI měla využívat, a kde ne?
Kdo je autorem a kdo by měl mít autorská práva?
Povinné označování generovaného obsahu?
Rizika zkreslení (biasy)
- Vstupní (trénovací) data
Pokud AI obdrží nekompletní data, obvykle to vede k chybovým výsledkům. Přestože se systémy umělé inteligence učí pouze z dodaných dat, mohou z původních informací vyvodit určitou nerovnováhu nebo předpojatost. - Kulturní a společenské vlivy
K nežádoucím výsledkům nemusí docházet jen vlivem špatných vstupních dat. Zkreslení může také vzniknout historickými, kulturními a společenskými vlivy a špatným designem.
📝 Mohou ale také vznikat záměrné manipulace
- fake news
- deepfakes
Deepfakes
- Deepfake je fotografie, video nebo zvuková stopa, která je vytvořená pomocí technik umělé inteligence k realistické simulaci tváří, pohybů a hlasů lidí.
- Termín „deepfake“ je kombinací slov deep learning („hluboké učení“ = technika AI) a fake, tedy podvrh. Tento pojem tedy popisuje pozměněný či dokonce zmanipulovaný obsah.
Manipulace
Nejčastěji se deepfake týká proměn obličeje, pomáhá ale i při simulaci pohybů či hlasu. To lze využít třeba ve filmech nebo v zábavných obličejových filtrech na TikToku, ale v jiném kontextu to může být extrémně nebezpečné – deepfake může být snadným zdrojem lživé manipulace!
Pusť si zmanipulované deepfake video ukrajinského prezidentka Volodymyra Zelenského, kde vyzývá Ukrajinu, aby se vzdala. Proč myslíš, že takový deepfake vznikl? A jak věrohodně na tebe působí?