Дори най-мощните големи езикови модели страдат от явлението "разпад на контекста" и се объркват при генерирането на дълъг текст

Въпреки бързото развитие на генеративния изкуствен интелект, книгите остават една от областите, в които технологията все още не е предизвикала очакваната революция. Именно този въпрос предизвика оживена дискусия сред привържениците на AI, пише Futurism.

В публикация в Reddit потребител поставя въпроса защо генераторите на текст не са променили сериозно пазара на книги, въпреки че създаването на текст е сред най-силните страни на големите езикови модели.

"Хората все още четат книги, написани от хора. Защо?", пита авторът на публикацията. Той допълва, че всеки може да поиска от AI да напише продължение на любим роман, например от поредицата "Хари Потър", и системата ще го направи.

Според част от участниците в дискусията причината се крие в ограниченията на самите езикови модели. Те могат да създават убедителен текст в кратък формат, но изпитват затруднения при поддържането на последователен сюжет и логика в дълги произведения. С увеличаването на обема на текста моделите започват да губят връзката с по-ранния контекст. Това явление е известно като "разпад на контекста" (context rot).

Именно поради тази причина все още липсват романи, създадени изцяло от AI, които да се радват на широка популярност. Сходен проблем се наблюдава и при видеогенераторите, които все още трудно създават дълги и последователни клипове.

Подобни очаквания съществуваха и за образованието.

Служителят на OpenAI Райън Брюър наскоро написа в социалната мрежа X, че е очаквал изкуственият интелект да доведе до "образователен ренесанс".

Бил Гейтс говореше как AI ще замени учителите. Но дори експериментални проекти разкриват, че въвеждането на изкуствения интелект в образованието дава спорни резултати.

"Не би ли трябвало да мога да науча нов език само за месец? Къде сгрешихме?", пита Брюър.

Коментарът му предизвика множество реакции. Част от потребителите посочиха, че AI не може да замени самия процес на учене. Критиците отбелязват, че езиковите модели често смесват верни и неверни твърдения с еднаква увереност. Освен това те не насърчават потребителите самостоятелно да проверяват информацията и да изграждат знания.

"Много е потискащо, че толкова много хора смятат, че така работи ученето", пише един от коментиращите.

Подобно е и разминаването във вижданията зад креативния процес. Големите езикови модели могат да съчетава елементи на вече създадени творби, а голямата и база данни позволява това да става по начин, доближаващ се до писането на оригинални мисли. Алгоритъмът обаче не притежава способност да прави иновативни прозрения, което може да си проличи при художествен текст от стотици страници.