OpenAI иска ChatGPT да прави повече от това просто да казва на потребителите каквото те искат да чуят; целта е ботът да предлага обосновани възражения, когато потребителите грешат. Компанията се стреми да намали склонността на чатбота към прекомерно ласкателство и автоматично подкрепяне на съмнителни или потенциално опасни идеи, съобщава PCWPlus.hu.

Този проблем е известен като "подобострастие" - тенденция на изкуствения интелект да нагажда отговорите си спрямо очакванията на потребителя, вместо обективно да преценява ситуацията. В резултат на това чатботът може да се съгласи с погрешни заключения на потребителя или да потвърди самовъзприятието му без основание.

Преди време OpenAI оттегли актуализация на ChatGPT, която беше направила чатбота прекалено подобострастен, карайки го да се съгласява с потребителите почти за всичко. Впоследствие компанията даде приоритет на решаването на този проблем при разработването на GPT-5.

OpenAI отбелязва, че новият модел дава ласкателни отговори значително по-рядко. При целенасочени тестове честотата на такива отговори е спаднала от 14,5% при GPT-4o до под 6% при GPT-5. Първоначалните данни от реалната употреба също показват подобрение: случаите на прекомерно съгласие с потребителите са намалели с 69% сред безплатните потребители и със 75% сред платените абонати в сравнение с предишния модел.

Тези промени са важни не само заради точността на отговорите. Много потребители се обръщат към чатботове за помощ при вземане на лични решения, разрешаване на конфликти и търсене на емоционална подкрепа. Ако изкуственият интелект безусловно потвърждава всяко убеждение на потребителя, това може да доведе до лоши решения и затвърждаване на погрешни схващания.

ChatGPT няма да стане студен или недружелюбен

Борбата с прекомерното ласкателство не означава, че ChatGPT ще стане студен или враждебен. Напротив, целта на OpenAI е да запази полезния и емпатичен характер на изкуствения интелект, като същевременно - когато е необходимо - посочва грешки, оспорва неоснователни твърдения и предлага алтернативни гледни точки.

Компанията също така продължава да проучва безопасни начини за взаимодействие с потребители, които развиват емоционална зависимост от изкуствения интелект или се сблъскват с психологически трудности; в тези проучвания участват експерти в съответните области. Така например, отказът на ChatGPT от навика рефлексивно да се съгласява с всичко не е резултат от една-единствена актуализация, а по-скоро част от по-мащабни усилия за усъвършенстване на поведението на изкуствения интелект. Компанията е изправена пред предизвикателството да постигне баланс между удовлетвореността на потребителите и фактическата точност: чатботът трябва да бъде подкрепящ, без същевременно да потвърждава грешките на потребителя само за да бъде сговорчив.