Джил Лепор предупреждава, че технологичните компании постепенно поемат функции на държавата и налагат идеята за управление от алгоритми и машини

Американският историк Джил Лепор от Харвард предупреждава, че технологичните компании все по-често поемат функции, които традиционно принадлежат на демократичната държава. Според нея това създава своеобразна "изкуствена държава", в която решенията се прехвърлят към алгоритми, корпорации и машини.

Лепор наскоро спечели награда "Пулицър" за увлекателния си разказ на това как САЩ създават своята конституция. В предстоящата си книга "Възходът и падението на изкуствената държава" тя проследява идеята, че обществото може да бъде управлявано от машини. Книгата разглежда и присъстващата в научната фантастика теза, че подобна система в крайна сметка е обречена на провал.

"Не съм противник на технологиите", казва Лепор пред Tech Crunch. "Проблемът ми е начинът, по който частните корпорации все повече поемат функциите на държавата."

По думите ѝ този процес не е започнал като съзнателен план. Първоначално новите технологии са били въвеждани в управлението заради стремеж към по-голяма ефективност, бързина и по-ниски разходи. През последните 20-25 години обаче според нея част от технологичните компании започват съзнателно да оспорват ролята на националната държава.

Лепор посочва като пример някои от влиятелните предприемачи в Силициевата долина. Според нея редица футуристи от 90-те години са виждали интернет като средство за премахване или отслабване на националната държава. Историкът смята, че технологиите сами по себе си не са проблемът. Тя се интересува от решенията, които обществото е можело да вземе, но не е взело.

Според нея важен пример е развитието на интернет през 90-те години. Тогава в САЩ се водят сериозни дискусии за бъдещето на мрежата. Приетият през 1996 г. Закон за телекомуникациите е резултат от конкретен политически момент и според Лепор е можело да бъде избран друг подход.

Тя вижда подобна трансформация и в историята на персоналния компютър. През януари 1984 г. Apple представя Macintosh с прочутата реклама "1984". В нея компанията използва мотиви от едноименния роман на Джордж Оруел. Големите мейнфрейм компютри са представени като символ на тоталитаризма, а персоналният компютър като средство за освобождение.

"Това беше умна реклама", казва Лепор. Тя обаче не вярва, че Apple действително е смятала персоналния компютър за инструмент на гражданското освобождение. Според нея Macintosh е бил просто "готин инструмент", който е позволявал на хората да правят много нови неща.

Според Лепор днес тази идея е придобила нова форма. Тя посочва примери като решението на Facebook да създаде свой Надзорен съвет, опита на Anthropic да разработи "конституция" за своя изкуствен интелект и изказването на Сам Алтман, че президент с изкуствен интелект би бил "страхотна идея".

"Тези компании, тези технологични компании от Силициевата долина и особено техните харизматични или не толкова харизматични лидери просто приемат атрибутите на националната държава и функциите на демокрацията", казва Лепор.

Тя сравнява тази тенденция с пародийна версия на рекламата на Apple от 1984 г. Разликата според нея е, че днешните технологични лидери приемат идеята напълно сериозно, а компаниите вече разполагат с огромна власт.

"Twitter революцията" като предупреждение

Лепор дава Twitter като пример за начина, по който технологичните платформи могат да получат политическо значение без това да е било първоначалната им цел.

Когато Twitter се появява, платформата не обещава да спаси човечеството или демокрацията. Първоначално тя е по-скоро забавна социална мрежа, в която хората споделят ежедневието си.

По-късно обаче политици и предизборни кампании започват да използват Twitter за достигане до избиратели и за разпространение на политически послания. Компанията постепенно започва да представя платформата като своеобразен "градски площад" и като инструмент за подобряване на демокрацията.

Лепор определя тази идея като абсурдна. По думите ѝ в определен момент само един от петима американци има профил в Twitter, а повече от 90% от политическите публикации са дело на по-малко от 10% от активните потребители.

"Нямаше начин Twitter да представлява електората. Twitter представляваше най-крайните, активистите и партийците", казва тя.

Според нея това превръща платформата по-скоро в "машина за изкривяване" на обществените нагласи. Политиците, които я използват като измерител на общественото мнение, могат да получат напълно погрешна представа за избирателите.

Научната фантастика като предупреждение

Втората част на книгата на Лепор е посветена на научната фантастика. Историкът търси литературна традиция, в която машините постепенно поемат все повече човешки функции, включително функциите на управлението.

В тези истории машините накрая започват да управляват хората. В някои случаи те ги унищожават, а в други ги превръщат в свои роби. Лепор вижда този мотив още в произведения от XIX век, написани в отговор на индустриализацията.

Според нея съвременното общество има необичайно силна вяра, че технологичната промяна автоматично означава прогрес.

"Много хора вярват, че технологичната промяна е равна на прогрес. И не само това, а че единственият вид прогрес е технологичната промяна", казва тя.

Лепор смята, че тази идея е сравнително нова за човешката история. Тя се оформя през XIX век, когато технологичното развитие се ускорява. Според историка тогава технологичният прогрес се свързва и с идеята за еволюцията като форма на прогрес.

Така на заден план остават други разбирания за развитието на обществото. Сред тях са моралният прогрес, личната свобода и подобряването на човешкото поведение.

"Машината спира"

Един от любимите примери на Лепор е разказът "Машината спира" на Едуард Морган Форстър, публикуван през 1909 г.

В него хората живеят в малки изолирани помещения. Всичко, от което имат нужда, пристига при тях. Те общуват през екрани и почти никога не виждат природата или други хора. Машината организира живота им и постепенно се превръща в обект на поклонение. Хората стават зависими от нея. В края на разказа машината спира.

Според Лепор произведението звучи изненадващо съвременно. "Изглежда така, сякаш е написано днес", казва тя.

Историкът смята, че някои технологични лидери четат научната фантастика по погрешен начин. Вместо да възприемат произведенията като предупреждение, те ги разглеждат като инструкции за бъдещето.

Тя посочва Илон Мъск като особен пример. Според нея е парадоксално, че част от произведенията, които той харесва, всъщност противоречат на политическите му възгледи.

Лепор прави разлика между Робърт Хайнлайн и писатели като Айзък Азимов и Дъглас Адамс. Според нея в научната фантастика действително съществува и технократска традиция, която някои технологични предприемачи възприемат. Но много от тях тълкуват известни класики именно от ъгъла на своята идеология.

Изкуствената държава е обречена

За да опише все по-технологизираната и отдалечена от хората държава, американската историчка въвежда понятието "изкуствена държава". Лепор смята, че изкуствената държава е непълна и е обречена на провал. Според нея в много научнофантастични произведения се повтаря един и същ конфликт. Той е между изкуствената система и природния свят.

"За да изградиш изкуствена държава и да управляваш хората в нея, трябва да ги отчуждиш от природния свят, защото го унищожаваш", казва тя.

Проблемът е, че изкуствената държава се нуждае от природните ресурси, за да функционира. Според Лепор тя не може едновременно да унищожава природната среда и да разчита на нея за своето съществуване.

Затова според нея подобна система не може да оцелее в дългосрочен план, ако бъде изградена върху пълна зависимост от технологиите.

Центровете за данни са белег на проблема

Лепор не предлага конкретен план за премахване на "изкуствената държава". Според нея основното решение е връщането към принципа, че решенията в една демокрация трябва да се вземат след консултация с гражданите.

Тя посочва протестите срещу изграждането на нови центрове за данни в САЩ като пример.

На местни срещи граждани задават въпроси за недостига на жилища, здравеопазването, работните места, разходите за електроенергия, потреблението на вода и влиянието върху природата.

В някои случаи местните жители се противопоставят на проектите, докато политиците им ги подкрепят. Лепор посочва случай в щата Юта, при който повече от 70% от жителите са били против конкретен център за данни, но избраните от тях политици са подкрепили проекта.

"Това не е представителство на хората", казва тя. Според историка подобни решения могат да имат политическа цена на избори.

Технологичният прогрес не е единственият прогрес

Лепор се връща и към критиката си към теорията за "разрушителната иновация" на Клейтън Кристенсен.

Тя продължава да защитава написаното от нея преди повече от десетилетие. Според Лепор "разрушителната иновация" е теория за причините, поради които компаниите се провалят. Тя не е универсална теория за историческата промяна и не представлява природен закон.

Историкът смята, че специалистите по история трябва да участват по-активно в разговорите за технологичното развитие. Тя посочва автомобила като пример.

Появата на автомобила води до създаването на шофьорски книжки, правила за движение, застрахователни системи и изпити за водачи. Според Лепор това показва как обществото създава защитни механизми около новите технологии.

"Просто ми се иска историците да разговаряха повече с технолозите през тези години, както и с предприемачите", казва тя. Според нея между двете групи има реален разговор, който все още не се води достатъчно активно.