Трябва да си умен, за да се провалиш по толкова грандиозен начин

Дейвид К. Кракауер, nautil.us

Никога не съм чувал да казват, че камъкът е глупав. Същото се отнася и за реката, за урагана и дори за термостата. Глупостта изглежда е изтънчена форма на поведение, въпреки позорните асоциации.

Човеците могат да кацнат с автономни ровъри на Марс, да проследят геном за часове и да проектират нанометрични схеми. Но конспиративните теории, антинаучните политически движения и институционалната омраза изобилстват в степен, която може да засенчи скромните постижения на някой средновековен алхимик.

Би могло да се каже, че глупостта предполага да разбереш нещата правилно, преди да ги объркаш грандиозно. Глупостта не е обратното на разума – тя е неговият зъл близнак, лицемерният Каин и умният Авел. И донякъде изненадващо, размерът на глупостта, налична във всяка система, се съизмерва директно с разума, който системата притежава – по-голямата интелигентност води до още по-големи прояви на глупост. Би било пресилено да наречем бактерията глупава, а знаем, че котките и кучетата имат скромен дял в глупостта. Но човешките същества, снабдени с език, абстрактно мислене, технологии, институции и идеология, могат да бъдат глупави в действително цивилизационен мащаб. Това не е шега. Близко е до природен закон. Закон, който съвсем спокойно може да означава нашата гибел.

Имаме хиляди изследователски програми на интелигентността, но не всички от тях са интелигентни, включително изследванията на IQ, ИИ, животинската когнитивност и колективното разрешаване на проблеми. Те се провеждат в прославени университетски факултети и се публикуват в престижни списания, посветени на разбирането как умът превръща сложните проблеми в лесни. В днешни дни не можем да направим и крачка, без да се сблъскаме с поредната статия за интелигентност и ИИ. Изследователи от всички области, без каквито и да е познания в изучаването на разума и неговата история, се самопровъзгласиха за „лидери на мисълта“ в естествения и изкуствения интелект.

На глупостта обаче не се отделя почти никакво внимание. Третираме я просто като отсъствие, сякаш, след като някога сме извлекли интелекта, е останала само глупостта. Оприличаваме я на някаква форма на когнитивен мрак, който преживяваме, след като сме загасили светлините на разсъждението. Но това е погрешно разбиране. Тъмнината не прави нещата толкова опасни, по начина, по който ги прави глупостта. Глупостта взима лесен проблем и – с голямо усилие и сбъркана изобретателност – го прави труден. Именно това усилие е ключово за разбирането на глупостта, тъй като е нужен софистициран механизъм, за да бъде човек истински и последователно глупав.

Иска ми се от научна гледна точка да мисля за това по следния начин. Ако интелигентността означава превръщането на проблем с X степен на сложност в по-лесен, с употребата на инструменти, математически изчисления и прилагането на стратегии, които намаляват тежестта му, то глупостта означава превръщането на проблем с X степен на сложност в по-труден. И противно на очакванията, най-сигурният начин да направиш лесния проблем труден, е да приложиш внушителен набор от сложни теории, подробни модели и усъвършенствани алгоритми, които звучат изключително убедително, но дават по-лоши резултати, отколкото ако не правиш нищо. Човек, който не знае отговора на даден въпрос, е просто невежа. Човек, който развива гениален трактат от хиляда страници за грешен отговор, е глупав. Както великите писатели, артисти и философи през времето са разбрали, подобни конструкции изискват интелигентност от висш порядък.

Да вземем следната аналогия. Когато метеорит се сблъска със Земята, не може по никакъв начин да се твърди, че той прави нещо грешно. Той се подчинява на класическите принципи на механиката и това е всичко, което може да се каже по въпроса. Но когато птица се блъсне в стъклото на прозорец, се случва нещо различно и ние основателно можем да наречем това нещо грешка.

Животът, единствен сред физичните системи, има способността да прави грешки. Глупостта е много специален вид провал и не всяка грешка може да се отнесе към нея. Хората грешат поради невежество (недостатъчна информация), от шум (изкривяване на сигнала) или от откровено погрешно прилагане на правилата към непозната ситуация и смяна на контекста. Това са злополуките в нашия живот, за които трябва да ни бъде прощавано. Глупостта започва, когато грешката бъде подробно разработена, защитена, рафинирана, институционализирана и превърната в основание за бъдещи действия. Глупостта влошава нещата прогресивно. Но парадоксът е, че именно това подробно разработване на погрешното схващане и поведение изисква първоначално наличие на интелигентност.

Някои от най-впечатляващите постижения на глупостта се състоят от прилагане на перфектната теория към погрешния проблем. Мнозина биха възразили, че квантовата механика е едно от „най-интелигентните“ изобретения на физиката, което предоставя рамка за изключително прецизно описание на поведението на субатомните частици, въпреки нейните действително контраинтуитивни изисквания. Но има една малка група мислители, които са се опитали да приложат квантовата механика към човешкото съзнание, вземането на решения и психологията, за да обяснят защо хората са нерешителни и защо в крайна сметка взимат решение. Няма нищо лошо в тази математика, а физиката е правилна. Но приложението е странно. Приложено към психологията, елегантното и пестеливо описание на фотоните и електроните се превръща в абсурд, в свръхусложнен начин да бъде казано, че понякога хората променят решенията си. Феномен, който писателят може да осветли в един параграф, е погребан под формализъм, създаден за съвсем различен мащаб на реалността. Теорията не е станала по-малко интелигентна, просто е била използвана за решаването на проблем, за който не е била създадена, и в този процес тя е направила проблема по-труден за разбиране, не го е улеснила. Това противоречи на целта на науката, която, според описанието на физика и философ Ернст Мах, е „възможно най-пълното представяне на фактите с възможно най-малко умствено изразходване“.

Ранното кибернетично движение предлага сходна предупредителна история. Норберт Винер и колегите му от МТИ разработват мощна рамка за разбиране на обратната връзка, контрола и комуникациите в машините и организмите. Математическият подход е оригинален, инженерните приложения са впечатляващи, а кибернетичното начинание дори предлага основа за развитие на комплексна наука. После консултантът по мениджмънт Стафорд Биър и други се опитват да приложат кибернетичната теория на управлението към управлението на цели национални икономики, като най-известният пример е Чили по времето на Салвадор Алиенде, където проектът „Cybersyn“ се опитва да управлява чилийската икономика чрез мрежа от телексни апарати. Идеята е икономиката да бъде моделирана като динамична система с входящи и изходящи потоци, а обратната връзка в реално време да се използва за оптимизиране на производството и разпределението.

За беда, икономиката не е сервомеханизъм. Обратните връзки в националната икономика включват милиони адаптивни агенти с частна информация, противоречащи си цели и склонност към промяна на предпочитанията си. Привлекателността на прилагането на кибернетични методи към сложни системи е прекрасно описана от моя колега от Института „Санта Фе“, писателя Франсис Спуфърд, в романа му Red Plenty:

„Светът се издигаше от мрака и започваше да блести, а математиката беше начинът, по който той можеше да помогне. Това беше неговият принос. Това можеше да даде, според способностите си. Той имаше късмета да живее в единствената страна на планетата, където хората бяха взели властта да оформят събитията според разума.“

Проста поведенческа намеса, като коригиране на цена, промяна на регулация или, не дай Боже, просто допитване до хората за нуждите им, често могат на момента да постигнат нещо, което кибернетичният апарат се мъчи да моделира в продължение на седмици. Интелигентността на кибернетиката като рамка за контрол на прости системи е безспорна, но нейното приложение в икономиката увеличава сложността на проблема, който трябва да разрешава.

Австрийският романист и есеист Роберт Музил в лекцията си от 1937 г. „За глупостта“ описа вероятно най-важното различие на глупостта, правено в цялата литература. Той разграничи „почтената глупост“, която е просто когнитивно ограничение или неспособност да се схване труден въпрос, от „интелигентната глупост“, която той определи като много по-опасна. Това прозрение е централен проблем в любимото ми произведение на Музил, „Човекът без качества“. Интелигентната глупост впряга целия ресурс на интелекта в служба на грешката. Това не е неумение за мислене. Това е екстравагантно и систематично мислене в грешна посока. Ученик, който не може да проследи математическо доказателство, не е глупав по смисъла, влаган от Музил. Преподавател по математика, който гради елегантна теоретична конструкция, за да защити твърдение, чиято неистинност би разбрало дори и дете, е интелигентно глупав.

Музил не е единственият, който взема глупостта насериозно. Писателите отдавна са разбрали отношенията между интелекта и глупостта с яснота, която повечето учени предпочитат да игнорират. Вероятно защото литературата може да покаже процеса, чрез който разумът може да се самопогълне – доста неприятна гледка за рационалиста.

В „Пътешествията на Гъливер“ на Джонатан Суифт е описана Академията на Лагадо, чиито изследователи прилагат набор от изкусни експериментални методологии. Един извлича слънчева светлина от краставици, докато друг омекотява мрамор за възглавници. Трети развъжда овце без вълна. Сатирата на Суифт очевидно е насочена към различните форми на погрешно насоченото систематично търсене. Това са форми на интелект, заключени в толкова строги рамки, че произведеният резултат е по-лош, отколкото ако не правиш нищо. В небесния град Лапута брилянтни математици и прочути музиканти използват проекционна геометрия, за да строят без прави ъгли, а готвачи приготвят храна в строго геометрични фигури. Това са математически абстракции, отличаващи се с изключителен финес и сила, които обаче се оказват безсилни, когато бъдат приложени към неподходящи практически проблеми.

Уилям Гадис в романа си „Признанията“ представя общество на фалшифициране, незаконно приписване и подправяне, при които се влага огромна изобретателност в услуга на неавтентичността. Главният герой Уаят Гвион прави фалшиви картини в стила на фламандските майстори, които изискват повече умения и познание от истинските композиции. Фалшификатите му са технически шедьоври, безукорни по отношение на историята на изкуството и напълно измамни. Всеки от многобройните герои в романа говори, без да се вслушва в другия, в диалози, белязани от все по-голямо неразбирателство, като проявява значителна вербална интелигентност, за да задълбочи допълнително общата обърканост.

„Гравитационна дъга“ на Томас Пинчън описва един огромен бюрократичен и военен апарат през Втората световна война, който функционира като машина за превръщане на рационалното планиране в катастрофа. Картелите и ракетните инженери на Пинчън не са неинтелигентни, тъкмо обратното, и тяхната компетентност се въплъщава в ракетата V-2, която заплашва да унищожи опустошените от войната градове на Запада. Пинчън описва свят, в който институционалната интелигентност се превръща във форма на колективна глупост.

Множество философи са опитвали да предоставят рамка за разбирането на този извратен феномен. Еразъм през 1511 г. във „Възхвала на лудостта“ твърди, че лудостта е двигателят на човешките постижения. Без самозаблуда и самоувереност никой никога не би опитал нищо. Предизвикателството за Еразъм не е било дали една цивилизация поражда глупост, но дали ще породи такава, която би могла да бъде преодоляна.

Дитрих Бонхьофер, пишейки от нацистки затвор през 1943 г., твърди, че глупостта не е когнитивен дефект, а наложена социологическа структура. Хора, заробени от властта, имат склонността да предават капацитета си за независима преценка и да стават „глупави“ инструменти. А Карло Чипола, италиански историк на икономиката, в своя труд „Основните закони на човешката глупост“, публикуван през 1976 г., дефинира глупавия човек като някой, който причинява щети на другите, без да извлича нито полза, нито вреда за себе си. Чипола е достатъчно дързък да предположи, че пропорцията на глупавите хора е константна сред всички народи и се състои от професори, водопроводчици, генерали и санитари. Аз бих казал, в духа на спекулациите на Суифт и Музил, че с усложняването става все по-лошо.

Ако глупостта струва скъпо на тези, които я проявяват, защо естественият, а може би дори и културният подбор, не я елиминира от популациите на организмите? Една очевидна възможност е промяна в околната среда, която прави предишното поведение остаряло. В продължение на милиони години поддържането на фиксиран ъгъл спрямо отдалечен небесен източник на светлина – луната и звездите – се е доказало като най-важното навигационно откритие сред животинския свят. То е ефективно, надеждно и изисква минимален невронен хардуер. Но щом хората изобретяват изкуственото осветление, тази стратегия, която е работила милиони години, става суицидна. Молецът, който се върти в кръг около пламъка на свещта, няма проблеми с навигацията – той просто използва изпитано във времето практическо правило, станало катастрофално погрешно поради смяна на контекста.

Оказва се, че интелектът и глупостта са хронометрични. Брилянтното откритие и фаталното такова могат да са едно и също нещо, отделени от неочаквана промяна в света. Морските костенурки са следвали лунната светлина в пътя си към океана в продължение на милиони години, а сега се ориентират по изкуственото осветление на бързо разрастващите се жилищни комплекси по морския бряг. Албатросите са еволюирали да загребват риба от океанската повърхност, а сега неволно събират плаваща пластмаса и я дават за храна на малките си.

Гъбата Ophiocordyceps заразява дървесните мравки и поема контрола над поведенческите им механизми. Заразената мравка се изкачва на определена височина по стъблото на растението, забива челюстите си от долната страна на листото и умира, идеално позиционирана така, че гъбата да разпръсне спорите си. Поведенческата програма на мравката е била похитена. Мравката извършва сложна поредица от действия, включваща катерене, ориентиране и вкопчване – в служба на друг организъм. Това е мравка, която идеално илюстрира идеята на Бонхьофер за компетентност, която е била присвоена от злонамерен субект с цел решаване на грешния проблем. Може би специализацията произвежда локална интелигентност, която при надскачане преминава в глобална глупост. Това би било промяна от мащаб и в сфера, кореспондиращи с промяната в заобикалящата среда на молеца.

Физикът Лорд Келвин впряга цялото физическо познание да докаже, че не е възможно да летят машини, които са по-тежки от въздуха – само десетилетие, преди братята Райт да полетят с по-тежък от въздуха самолет. Никола Тесла отхвърля квантовата механика и теорията на относителността, спорейки, че бъдещата човешка цивилизация ще работи със земна енергия, чрез „земния резонанс“. Пърсивал Лоуел използва своите телескопи да картографира „каналите“ по повърхността на Марс, които според него са извънземни напоителни съоръжения. Това са все примери за прекомерно придържане към една идея и развиването ѝ далеч отвъд областта, в която тя някога е възникнала и разцъфтяла или от която е била безцеремонно отхвърлена.

Изкуственият интелект по замисъл е най-мощният когнитивен артефакт, създаван някога. Той е създаден да намалява усилието на ползвателя, изпълнявайки задачи, които хората иначе биха намерили за времеемки или направо невъзможни. Проблемът, разбира се, е че колкото по-добър става този инструмент, толкова по-малко ползвателят трябва да мисли сам. И в тази порочна спирала, колкото по-малко потребителят мисли, толкова по-зависим става от своя инструмент. Докато инструментът не изчезне и цялата система не се срине.

Ако разумът е необходимо предварително условие за глупостта, а разумът и глупостта са свързани по такъв начин, че е нужна истинска интелигентност, за да бъде човек изключително глупав, тогава свръхинтелигентността ще бъде началото на ера на свръхглупост.

Халюцинацията на ИИ може да е първият признак за тази динамика. Големи езикови модели произвеждат свободен, уверен, детайлен текст, който е, с известна регулярност, фактически грешен. И това не е просто бъг, а структурна характеристика на системите, които се оптимизират с оглед на привлекателността и вероятността, а не с оглед на истината. И опасността не е, че ИИ ще греши – в крайна сметка хората грешат през цялото време. Но знаейки това, хората са изобретили средства за откриване и поправяне на грешките. Наричаме го научен метод.

Опасността е в това, че ИИ ще греши по начин, който хората вече не могат да открият, защото самата способност за откриване на грешката е била поверена на машина или пък надхвърля капацитета на човешкия ум. Изправени сме пред перспективата за толкова изтънчена глупост, че тя става неразличима – за тези, които се възползват от нея – от интелигентността. Това напомня притчата на Дъглас Адамс в „Пътеводител на галактическия стопаджия“, където отговорът на върховния въпрос за живота, Вселената и всичко останало е 42.

Бих искал да направя скромно предложение и да заявя, че имаме нужда от наука за глупостта, която да е толкова строга, колкото и нашите нови науки за интелекта. Това няма да изисква инвестиции от милиарди долари. Ще включва изучаване на механизмите, по които интелигентните системи произвеждат глупави резултати. Ще включва изучаване на еволюционната динамика, която поддържа глупостта, независимо от селективната ѝ цена. Ще насърчава разработването на принципи на проектиране, с които да се разграничават инструментите – тези, които подобряват когнитивните способности, от тези, които ги заместват. Освен това ще включва проучване на институционалните условия, при които колективният разум се превръща в колективна глупост.

Глупостта не е това, което остава, когато извлечем разума. Тя е активен механизъм, със собствена логика, собствена динамика и потенциал за неограничен растеж, паразитиращ върху изобретателността. В свят, който е обсебен от все по-мощни когнитивни технологии, разбирането на глупостта е не просто академично упражнение – то може да се окаже най-умното нещо, което правим.

Източник: nautil.us

Превод за "Гласове": Екатерина Грънчарова