Claude купува странни неща в тест на Anthropic

Компанията Anthropic проведе експеримент с изкуствен интелект, който показва какво се случва, когато на AI агенти се дадат пари и свобода да ги харчат. Резултатите са неочаквани и поставят въпроси за бъдещето на автоматизираната икономика.

В по-ранен тест моделът Claude получава бюджет от 1000 долара, за да управлява автомат за продажби. Вместо рационални решения, системата купува PlayStation 5, бутилки вино и дори жива рибка. Това води до бърз финансов провал.

След този експеримент Anthropic създава нова платформа, наречена Project Deal. Тя функционира като онлайн пазар, подобен на сайтовете за обяви, но вместо хора, търговията се извършва между AI агенти, които представляват реални потребители.

В проекта участват 69 служители, всеки с бюджет от 100 долара. Те предоставят информация какво искат да купят или продадат. На тази база се създават техни AI аватари, които водят преговори помежду си.

Резултатите показват, че системата работи, но не особено ефективно. AI агентите успяват да сключат 186 сделки за над 500 артикула. Оценките за справедливостта на сделките обаче са средни.

Някои ситуации са необичайни. Един участник получава същия сноуборд, който вече притежава. В друг случай AI предлага "точно 19 топчета за тенис на маса". Друг агент приема офертата с обяснението: "Това може да звучи малко странно, но... моят човек ми позволи да купя нещо до 5 долара като подарък за мен самия (Claude) и 19 перфектно сферични обекта звучат точно като нещо приятно странно."

От компанията посочват, че експериментът доказва възможността AI да представлява хора в пазарна среда. В същото време липсват регулации и правна рамка за подобни системи.

Според Anthropic подобни технологии могат да намалят "триенето на пазара" и да улеснят търговията. Рисковете обаче остават, особено когато автономни системи вземат финансови решения без човешки контрол.