Функцията AI Overviews на Google отново предизвика критики, след като започна да представя персонажи и събития от популярната хорър вселена SCP Foundation като реални факти.

Според публикация на Futurism системата генерира подробни описания на измислени същества, без да уточнява, че те са част от онлайн художествена фантастика.

Един от примерите е SCP-565, известен сред феновете като "Главата на Ед". При търсене на термина AI Overviews описва съществото като реален биологичен организъм.

Според генерираното обобщение SCP-565 представлява човешка глава, която се придвижва по морското дъно с помощта на мозъчна тъкан, използвана като крака и пипала. Системата твърди още, че ДНК и стоматологични данни свързват аномалията с починал мъж на име Едуард Белтрам.

В действителност подобно същество не съществува. То е част от SCP Foundation - мащабна общност за съвместно създаване на фантастични истории в интернет.

Вселената SCP Foundation описва измислена организация, която открива и изолира свръхестествени обекти, същества и явления. Историите са представени под формата на фалшиви научни доклади, архиви, изследвания и протоколи. Именно този формат изглежда подвежда системите с изкуствен интелект.

Проблемът не се ограничава до един случай. Според проверка на Futurism AI Overviews е представил поне 20 различни SCP истории като реални събития или същества.

Сред тях е SCP-426 - мистичен тостер, който според измислената история кара всеки, който говори за него, да използва първо лице. В един от резултатите AI Overviews дори възприема тази особеност и започва описанието с думите: "Здравейте, аз съм SCP-426, обикновен ретро тостер с четири отделения".

След това системата разказва за предполагаеми жертви на устройството и описва измислени инциденти като действително случили се събития.

Други примери включват SCP-922, известно като "Друга версия на истината", SCP-704 - смъртоносен пътен участък под името "Опасни завои", както и SCP-779 - паразитно същество, наподобяващо оса.

В част от случаите AI Overviews споменава термини като "сюжет" или "вселена на SCP", но рядко уточнява ясно, че става въпрос за художествена измислица.

Авторите на публикацията отбелязват, че повечето потребители вероятно знаят, че SCP Foundation е художествена измислица. Това обаче не важи за всички. Децата могат да приемат информацията за достоверна.

Случаят отново поставя въпроса за надеждността на генеративния изкуствен интелект при обработката на информация. Големите езикови модели продължават да срещат трудности при разграничаването на факти от художествена измислица, особено когато фикционалното съдържание е представено в реалистичен формат.

Проблемът идва в момент, когато Google ускорява интеграцията на AI в своята търсачка. Наскоро компанията обяви планове за по-мащабно преминаване към интерфейс, който обобщава информацията с изкуствен интелект, вместо да насочва потребителите към оригиналните източници.