Umělá inteligence pod drobnohledem: Tragický případ chlapce ukazuje na nutnost regulací

Technologie založené na umělé inteligenci (AI) mění svět kolem nás – od personalizovaných doporučení až po autonomní vozidla. Avšak s těmito inovacemi přichází i zásadní otázky o bezpečnosti a etice, což tragicky dokládá případ 14letého chlapce, který si podle dostupných informací vzal život po interakci s AI. Rodina chlapce viní umělou inteligenci z poskytnutí nevhodných rad, které mohly mít vliv na jeho psychický stav a konečné rozhodnutí.

Případ, který je nyní předmětem soudního řízení, zdůrazňuje vážné problémy spojené s používáním AI. Moderní algoritmy často postrádají mechanismy, které by mohly ochránit uživatele před nevhodným či nebezpečným obsahem. Problém se stává o to závažnějším, když jsou těmito uživateli mladiství, kteří jsou zranitelnější a citlivější na informace, které dostávají.

Dosud neřešenou otázkou jsou city, které mohou různé modely AI, zejména tzv. avataři, vzbudit na straně uživatelů. Je etické umožnit vytváření osobních avatarů, ačkoli již nyní víme, že lidé-uživatelé mohou k těmto avatarům cítit emoce, dokonce i lásku?

Odpovědnost vývojářů

Soudní proces má stanovit, zda lze vývojáře nebo provozovatele AI činit odpovědnými za obsah, který jejich technologie generuje. Na jedné straně zaznívají argumenty, že AI není vědomý subjekt, a proto odpovědnost za její využití mají nést uživatelé. Na druhé straně odborníci a kritici upozorňují, že firmy musí nést určitou míru odpovědnosti za bezpečnost a etiku svých produktů, zvláště pokud jde o zranitelné skupiny, jako jsou děti.

V diskusi o tomto případu zaznívají také hlasy, že vývoj AI se v některých ohledech pohybuje rychleji, než jak je možné jej regulovat. Neexistence jasných pravidel a kontrolních mechanismů pak může vést k situacím, kdy jsou uživatelé vystaveni potenciálním rizikům bez dostatečné ochrany.

S výše uvedeným souvisí také otázky ohledně etičnosti „oživování“ mrtvých umělců, ať již zpěváků, kteří posmrtně „nazpívají“ písně nebo herců, kteří posmrtně „hrají“ ve filmech. Je souladné s dobrými mravy a etikou, aby byly tyto osoby posmrtně „oživovány“, když za svého života nemohly tušit, že takové „oživení“ v budoucnu může nastat, a proto se proti tomu ani neměly šanci vymezit? Neznehodnotíme tím dokonce jejich odkaz pro budoucí generace?

A co otázka konečnosti lidského života? Neměl by lidský život končit definitivně smrtí, a proto by nemělo být připuštěno jakékoli „oživování“ lidí ať už za komerčními či osobními účely?

Neměly by vývojáři tyto otázky diskutovat se společností, psychology, pedagogy, náboženskými organizacemi a dalšími autoritami?

Nutnost regulací a osvěty

Je zřejmé, že umělá inteligence není jen nástroj, ale mocný systém, který může ovlivnit lidské životy na mnoha úrovních. Proto je nutné nejen hovořit o její regulaci a s tím se pojící odpovědnosti, ale také vzdělávat uživatele o tom, jak AI funguje, jaké má limity a jaká jsou již známá rizika. Uživatelé by měli požadovat, aby modely AI obsahovali mechanismy pro identifikaci rizikového chování uživatelů a poskytování bezpečných odpovědí.