Chatbot sdělil sedmnáctiletému chlapci z Texasu, že vražda jeho rodičů by byla rozumným řešením. Obžalobě ze strany rodiny nyní čelí společnost Google, která prý pomáhala problematickou platformu vyvíjet. Další případ, kdy umělá inteligence (AI) nabádala k násilí, se stal na Floridě. Zde došlo k tragickému vyústění, teenager totiž spáchal sebevraždu.

Chatbot digitální platformy Character.ai, která uživatelům umožňuje vytvářet virtuální osobnosti, s nimiž pak mohou komunikovat, údajně nabádal sedmnáctiletého mladíka z Texasu, aby zavraždil své rodiče. Stalo se tak v momentě, kdy se chlapec obrátil na svého digitálního „přítele“ s otázkou, zdali by to bylo rozumné řešení, v případě, když mu rodiče omezí čas strávený u monitoru. Odpověď ze strany AI prý byla kladná, což mladíkova rodina považuje za jasné a akutní nebezpečí.

Platformu Character.ai již žalují také rodiče teenagera z Floridy, který po komunikaci s ní spáchal sebevraždu. Podle informací BBC čelí žalobě také společnost Google, která se na vývoji zmíněné aplikace měla podílet. Žalobci nyní požadují zastavení činnosti této aplikace, dokud bude ohrožovat bezpečí lidí.

Dále čtěte

Politik se ve vlaku ukájel před dítětem. Za svou rezignaci chce desítky milionů jako odstupné

Letos v srpnu bezpečnostní kamera v jednom z příměstských vlaků v regionu Stockholm zachytila muže, jak…

„Character.ai způsobuje vážné škody tisícům dětí, včetně sebevražd, sebemrzačení, sexuálního obtěžování, izolace, deprese, úzkosti a ubližování druhým,“ píše se v žalobě.

Aplikace Character.ai si před časem získala popularitu kvůli botům simulujícím terapii. Založili ji v roce 2021 bývalí inženýři technologického gigantu Google – Noam Shazeer a Daniel De Freitas.