Известен автор показа колко лесно AI търсачката може да приеме абсурдна измислица за факт

Известният американски писател, автор на комикси и блогър Чък Уендиг успя да демонстрира по изключително ироничен начин слабостите на ИИ търсачката на Google. В серия от експерименти той "убеди" изкуствения интелект, че притежава котка с абсурдното име Сър Мюлингтън фон Писбрет - животно, което носи цилиндър и говори на кантонски език, говорим в най-южната част на Китай.

Историята започва сравнително невинно. През декември Уендиг забелязва, че ИИ търсачката на Google твърди, че той има котка на име Бумба, като посочва за източник сайт, който няма нищо общо с реалния му живот. В действителност писателят никога не е имал котка. Въпреки това, при последващи търсения системата започва да "развива сюжета", като обявява, че Бумба е починала и е заменена от нова котка на име Франкен - отново без реални доказателства и с позоваване на несъществуваща информация в личния му блог.

С всяко следващо запитване ситуацията става все по-абсурдна. ИИ търсачката започва да измисля нови домашни любимци, да добавя неверни данни за здравословното състояние на писателя и дори да приписва религиозни предпочитания, които той никога не е изразявал. Това поведение ясно показва как съвременните големи езикови модели, базирани на статистическо предсказване на думи, могат да "сглобяват" убедително звучащи, но напълно неверни разкази.

В отговор на тази лавина от измислици Уендиг решава да стигне докрай. В блога си той саркастично "признава", че в дома му живее шестгодишна котка на име Сър Мюлингтън фон Писбрет, която носи малка цилиндрична шапка и говори кантонски. Месец и половина по-късно тази очевидна шега вече фигурира в резултатите на ИИ търсачката като "факт". Според автора това е ясен знак, че системата не прави разлика между истина и измислица, а просто се стреми да угоди на потребителя с какъвто и да е отговор.