Частните разговори с чатботове, базирани на изкуствен интелект, все по-често се използват като доказателства в съдебни дела, съобщи „ТехСпот“. Тези записи могат да разкрият намеренията и личните мисли на потребителите, но не се ползват със същата правна защита на поверителността, която обхваща комуникацията с адвокати, лекари или терапевти. Въпреки че хората често използват ChatGPT за лични и здравословни въпроси, тези разговори могат да бъдат изискани чрез съдебна заповед или да бъдат открити при обиск на телефона. Преглед на „Вашингтон Поуст“ установи, че такива записи са били цитирани в 12 публични съдебни дела през последните две години, като реалният брой вероятно е по-висок.

Един от случаите включва тийнейджър, който завел дело срещу технологични гиганти заради психични проблеми, причинени според него от социалните мрежи. Адвокатите на ответната страна получили историята на използването на ChatGPT от младежа, в която той обсъждал потенциално споразумение с баща си. В друг случай „ОупънЕйАй“ сама се свързала с ФБР, след като потребител описал в чатбота планове да нарани бившата си приятелка. Мъжът впоследствие бил арестуван и осъден. Данните на компанията показват рязко увеличение на исканията от правоохранителните органи - над 80 акаунта са били разкрити през втората половина на 2025 г.

Често полицията открива разговорите директно в телефоните на заподозрените, тъй като много хора доброволно дават съгласието си за обиск. Такъв е случаят със студент, който попитал ChatGPT: „Има ли някакъв начин да разберат, че съм бил аз?“, след като повредил множество автомобили. Чатовете могат да бъдат използвани и в граждански дела. В един такъв случай служител попитал изкуствения интелект дали изтрити имейли могат да бъдат възстановени чрез съдебна заповед, което съдията приел като опит за укриване на доказателства.

Разговорите с изкуствен интелект не се ползват с правната привилегия, която защитават адвокатската или лекарската тайна. Федерален съдия в Ню Йорк отхвърлил искането на финансовия ръководител Брадли Хепнър да предпази разговорите си с „Клод“ на „Антропик“ от достъп на прокурорите, постановявайки, че чатботът не е адвокат. Професорът по право Андрю Фъргюсън предупредил, че с навлизането на изкуствения интелект в още сфери целият личен живот на хората може да стане достъпен за полицията.