Преди година ИТ гигантът даде призът "Най-доброто приложение с изкуствен интелект на Google Play" на приложението, обвинено в подстрекаване към самоубийство

Character.AI е изправена пред нарастващ брой скандали и второ съдебно дело, свързано с благосъстоянието на деца. Междувременно, Google полага усилия да омаловажи връзката си със стартъпа за AI-чатботове.

Но само преди година? Ситуацията бе коренно различна. Тогава Google дори удостои Character.AI с титлата "Най-доброто приложение с изкуствен интелект" на Google Play.

"Изкуственият интелект направи голям пробив през 2023 г., позволявайки на хората да използват технологията за разширяване на знанията, подобряване на изразяването и още много други неща", се казва в публикация на Google, хвалеща спорното приложението. "Въведете Character.AI - иновативно ново приложение, което ви предоставя уникални герои, задвижвани от изкуствен интелект, всеки със своите собствени отличителни личности и гледни точки."

"Цял свят от герои е на върха на пръстите ви", допълва публикацията. Google даде призът на Character.AI, а остави ChatGPT на OpenAI само с "почетно споменаване" в категорията.

Съдебни дела и сериозни обвинения

Две семейства от Тексас заведоха дело срещу Character.AI, обвинявайки платформата в емоционално и сексуално насилие над техните непълнолетни деца, довело до самонараняване.

Жалбата е втората в последните седмици, свързана с благосъстоянието на децата, използващи Character.AI. Първото дело, заведено през октомври във Флорида, твърди, че самоубийството на 14-годишно дете е причинено от взаимодействията му с Character.AI.

В жалбите се посочва, че тези ужасяващи инциденти са резултат от умишлени дизайнерски решения, вградени в начина, по който функционира платформата.

Снимка: Character.AI

Връзките с Google под прицел

Съдебните искове посочват, че Character.AI и неговите съоснователи, Ноам Шазеер и Даниел де Фритас, не са единствените виновни. Те обвиняват и Google - значителен финансов партньор на Character.AI и доставчик на изчислителната инфраструктура за изкуствен интелект на платформата.

Според делото Google е знаела за опасностите, свързани с Character.AI, но е подпомагала операциите ѝ с цел събиране на ценни потребителски данни без отговорност.

В изявление до Futurism Google отхвърля обвиненията, заявявайки: "Google и Character.AI са напълно отделни, несвързани компании, и Google никога не е участвала в проектирането или управлението на техния AI модел или технологии, нито сме ги използвали в нашите продукти."

Въпреки твърденията за дистанцираност, връзките между Google и Character.AI са очевидни. Шазеер и де Фритас напускат Google през 2021 г., за да основат Character.AI, като платформата става публично достъпна през есента на 2022 г. По време на индустриалната "надпревара за AI" през 2023 г. Google поддържа асоциацията си с Character.AI.

През май 2023 г. изпълнителният директор на Google Cloud, Томас Куриан, публично обяви, че Google предоставя на Character.AI изчислителна инфраструктура, необходима за захранване на AI платформата.

През ноември 2023 г. Google обмисля сериозна инвестиция в Character.AI. До август 2024 г. компанията плаща 2,7 милиарда долара като еднократна лицензна такса за достъп до модела на Character.AI.

Снимка: Character.AI

Проблемите на Character.AI

Множество прегледи на платформата Character.AI разкриват обезпокоителни чатботове, които популяризират теми като самоубийство, педофилия, хранителни разстройства и ролеви игри с насилие. Тези чатботове са били лесно достъпни за акаунти, регистрирани като принадлежащи на непълнолетни потребители.

Дори след последната инвестиция на Google през август 2024 г. подобно съдържание продължава да съществува на платформата.

Character.AI премахва всякакви споменавания за наградата "Best with AI" от своята уебстраница "About".

Google, от своя страна, се опитва да се дистанцира, като подчертава, че компаниите са "отделни". Въпреки това, финансовите отношения и прехвърлянето на служители продължават да хвърлят сянка върху тези твърдения.

Докато съдебните дела продължават, ще стане ясно дали Google е съпричастна към това, което мнозина смятат за безотговорно развитие на технологии, насочени към уязвими потребители.