Откакто имаме история, всяка голяма научно-техническа новост се е очаквало да промени света издъно. Компютрите. Генетиката преди тях. Преди нея – електричеството. Преди него – парата. Сигурно чак до огъня и слизането от дърветата… И за всяка е имало оптимисти, които са очаквали тя да спаси света, и песимисти, които са очаквали тя да го загроби.
А реалността се е оказвала някъде по средата. Всяка новост е носела и ползи, и вреди. Обикновено ползите са били повече – ако някой не вярва, да заповяда в някой африкански резерват да живее по дърветата, малкото пробвали твърдят, че било поучително. Но са били повече благодарение на тези разумни хора, които са търсели как да вземат всичко от ползите и да ограничат вредите колкото се може повече. Във водата оптимистът вижда спасение от жаждата, песимистът – наводнение което ще му отнесе къщата, а реалистът си построява къщата по-настрани от реката и слага в нея делви за съхраняване на вода. Леко противоречиво, но най-разумното.
По-долу ще откриете мнението на един от оптимистите – Джейми Съскайнд. Футурист и поддръжник на изкуствения интелект, той наскоро издаде книгата „Бъдещата политика“ (Future Politics). Едно от нещата, които предлага в нея, е използването на ИИ за целите на демокрацията. Не споделям оптимизма му на 100%, но мисля, че това мнение е важно да се чуе и знае.
И най-безсъвестно откраднах от fastcompany.com и преведох леко поредактирана извадка от книгата. Дано не ме вкарат в затвора за тази отвратителна кражба – а и да го направят, печелят всички умни хора, които четат български, а губя само аз. (Не, не се пробутвам за Левски, мащабите са несравними. Просто правя това, което всеки честен човек на мое място би направил.)
—-
Демокрацията е на кръстопът. С наближаващите междинни избори (за Конгрес на САЩ, през ноември 2018 г. – Григор) и президентските избори през 2020 г. на хоризонта, милиони американци се готвят да дадат доверието си на кандидати, чиято реторика е демократична, но в същото време не скриват намерението си да компрометират институциите, които ограничават властта на избраните лидери. Не само в САЩ, а навсякъде по света – от Бразилия до Унгария – гласоподавателите се обръщат към авторитарни лидери, които обещават да дадат властта на народа, но чиято дефиниция за „народа“ изключва повечето, които са различни от тях. Забележителното обаче е, че този „нелиберален“ завой в развитието на демокрацията не е най-голямото предизвикателство пред идеята за правителство на хората.
Цифровите технологии все повече разрушават допусканията и условията, които в течение на столетия са били основата на демокрацията. Фалшивите новини и поляризацията вече са познати теми на всеки, който се интересува от здравето на демокрацията. Само преди седмица Facebook съобщи, че удвоява персонала си, грижещ се за сигурността и обществото, на 20 000 души. В бъдещето обаче ще трябва да се справяме с много по-важната тема за демокрацията и ИИ, да задаваме въпроса кои решения могат и трябва да бъдат вземани от могъщи цифрови системи, и дали тези системи не биха представлявали хората по-добре от политиците, избрани в Конгреса.
Това е перспектива, която може да донесе славни успехи, но и ужасни рискове. Хенри Дейвид Торо пита през 1849 г.: „Е ли демокрацията, каквато я познаваме, последното възможно подобрение на управлението? Не е ли възможно да се отиде и още по-напред в признаването и организирането на правата на човека?“ Това е въпросът, който стои пред нас и днес.
Ние обичаме да разговаряме с тези, които харесваме, и да четем новини, които потвърждават убежденията ни. Информацията и хората, с които не сме съгласни, ги отграждаме от себе си. Технологията прави това за нас все по-лесно. Ако сте либерал, който следи в Twitter конкуренцията в изборите за Конгрес, средно 90% от информацията, която виждате, идва от демократи. Ако сте консерватор, 90% от тази информация идва от републиканци.
В зората на Интернет беше предсказано, че ще можем лесно да подбираме и определяме наша собствена информационна среда, като избираме какво ще четем на базата на политическата му ориентация. Все повече обаче това филтриране го вършат от наше име автоматични системи, които избират какво заслужава да бъде рапортувано и документирано, и решават колко контекст и подробности към него са необходими. Проблемът в това е, че светът, който аз виждам всеки ден, може да е напълно различен от този, който виждате вие.
Терминът „фалшиви новини“ (fake news) отначало беше използван за обозначаване на лъжите, които бяха лансирани и широко разпространявани из Интернет. Сега самият този термин вече е лишен от значението си, и бива използван за описване на каквото и да било, с което описващият не е съгласен. Някои платформи за социални медии са предприели мерки за борба с тях, но същността на онлайн комуникацията (както е проектирана към момента) способства за бързото разпространение на дезинформацията. Резултатът е така наречената политика, която не се вълнува от истината (post-truth politics). Замислете се за момент върху нещо: през последните три месеца на президентската надпревара в САЩ от 2016 г. водещите 20 фалшиви новини във Facebook са били споделяни, отбелязвани и коментирани повече пъти, отколкото водещите 20 реални новини от всички медии в САЩ заедно. (Включително Ню Йорк Таймс, Уошингтън Таймс, Хъфингтън Пост…) 75% от хората, видели заглавията на тези фалшиви новини, са ги вземали за истина.
За съжаление, същностната ни тенденция към групова поляризация води до това, че членовете на група, която споделя едни и същи възгледи, с течение на времето стават все по-крайни в тези възгледи. Както казва Кас Сънщайн, „именно хората, които най-вероятно няма да се вслушат в различни от техните мнения, са тези, които най-много имат нужда да ги чуят“. Ако нещата продължават по същия начин, с времето ще имаме все по-малко общи базови възгледи и споделен опит. Ако това се случи, разумните дискусии ще стават все по-трудни. Как можем да се съгласим за нещо, когато информационната ни среда ни кара да сме на различни мнения за всичко? Твърди се, че Ейбрахам Линкълн е казал: „Аз вярвам дълбоко в хората. Даде ли им се истината, можете да разчитате на тях да се справят с всяка национална криза. Големият проблем е да доведете до тях реалните факти.“
Кой ще ни доведе до реалните факти?
Важно е да знаем, че тези проблеми не са неизбежни. Можем да им намерим решения. Операторите на социални мрежи бавно въвеждат мерки за регулиране на дискусионните им пространства. Софтуерни инженери като тези на loomio.org се опитват да създадат идеални платформи за дискусия, като използват софтуер. Тайванската платформа vTaiwan е позволила да се постигне консенсус по важни елементи на обществената политика, включително политика за онлайн продажби на алкохол, регулация на споделянето на автомобилни пътувания и закони, които управляват споделената икономика и Airbnb. Цифровизирането на проверката на факти и идентифицирането на тролове набират обороти, вече започва автоматизирането им, макар и засега несъвършено. Тези усилия са важни. Оцеляването на дискусията като инструмент за решаване на проблеми за в бъдеще зависи в голяма степен от успеха им.
Ясно е, че простият пазар на идеи, колкото и примамливо да звучи идеята, може да не е най-доброто. Ако съдържанието се разпределя и приоритизира според колко цъкания биват правени върху него (и колко рекламен приход носи като резултат), често истината ще бъде жертвана. Ако стаята за дискусии е доминирана от който държи властта да филтрира, или пък контролира най-агресивната армия от ботове, дискусиите ще бъдат изкривени в полза на тези с по-мощната технология, а не тези с по-добрите идеи. Дискусионната демокрация има нужда от форум за задълбочено обсъждане, не от пазар с кресливи търговци.
Както вече виждаме, за в бъдеще тези, които контролират цифровите платформи, все повече ще определят свободата на словото на другите. Понастоящем технологичните фирми стават по-решителни в ограничаването на изказванията, очевидно насочени към сеене на омраза. Твърде малко от нас са се натъжили, когато Apple премахнаха от платформата си няколко приложения, които твърдяха, че били лекували гейове от тяхната сексуалност. Нито пък когато няколко разпространители на съдържание спряха да разпространяват това на ултрадесни групи на омразата след събитията в Шарлотесвил през 2017 г. (Мрежата за разпространение Cloudfare спря акаунта на неонацисткия сайт Daily Stormer. Услугата за стрийминг на музика Spotify спря да разпространява музика от „групи на омразата“. Услугата за чат на тема игри Discord спря акаунти, свързани с демонстрацията в Шарлотесвил. Фейсбук забрани някои крайно десни групи с имена като „Рицарят с червените криле“ (Red Winged Knight), „Обединени бели националисти“ (White Nationalists United), „Десен взвод на смъртта“ (Right Wing Death Squad) и „Авангард на Америка“ (Vanguard America).
Но какво става, когато Facebook премахна и страницата на кмета на голям кюрдски град, въпреки че беше лайкната от повече от четиристотин хиляди души? Според Зейнеп Тюфекчи, Facebook са предприели това, понеже не са могли да различат обикновено съдържание, което просто е за кюрдите и тяхната култура, от пропаганда, публикувана от ПКК, която е определена като терористична организация от U.S. State Department. По думите на Тюфекчи, „това е все едно да блокираш всяка страница, на която има детелина или леприкорн, понеже била страница на Ирландската републиканска армия“.
Целта ми не е да критикувам тези отделни решения – всяка година се правят милиони като тях, много от автоматични системи. По-важното е, че властта да се решава какво трябва да бъде смятано за толкова неприятно, отвращаващо, плашещо, нараняващо или обидно, че не бива изобщо да бъде споменавано, има значителен ефект върху качеството на на нашите дискусии. Не е ясно защо така наречените „насоки за общността“ се очаква да са най-добрият начин това да се управлява на системно ниво; в крайна сметка, засегнатата общност е политическата общност като цяло. Да се твърди, че тези платформи са като частни дискусионни клубове, е наивно: те са новите агори, и техните ефекти засягат всички нас.
Идеята за абсолютно неограничена свобода на словото в дигиталните платформи определено е неприемлива по начало. Още през деветнадесетото столетие философът Джон Стюърт Мил приема, че определени ограничения са необходими. Той дава примера, че е приемливо да напишеш във вестника, че „търговците на царевица докарват бедните до глад“, но не е приемливо да крещиш точно същото пред разгневена тълпа, събрала се пред къщата на търговец на царевица. Мил е разбирал, че не бива да се колебаем да въвеждаме правила, които определят формите на изказване, за разлика от тези, които определят съдържанието на казаното. Както не е прекалено опасно за свободата на словото да не може да се крещи в жилищен квартал посреднощ, също така можем спокойно да приемем, че обсъжданията онлайн трябва да бъдат водени в съответствие с правила, които ясно и честно определят кой може да говори, кога, за колко време и т.н. Разгневената тълпа на Мил е много лесно да бъде събрана, физически или дигитално, с технологиите, с които разполагаме.
Няма да е трудно да припишем вината за политиката, която не се вълнува от истината, само на цифровите технологии. Истината (!) е, че хората имат дълга и богата история на използване на измамата за политически цели. Описанието от 1963 г. на Ричард Хофщатер за „параноидния стил“ в политическия живот – „настървено преувеличаване, подозрителност и фантазии за конспирации“ – все едно е казано за днешното време. Такова е и оплакването на Джордж Оруел в неговия дневник от 1942 г.:
„Всички ние се давим в мръсотия. Когато говоря с който и да е, или чета писанията на който и да е, който има някакъв проблем с някого или нещо, имам усещането че интелектуалната честност и балансираната преценка просто са изчезнали от лицето на земята. […] Всеки просто „защитава тезата си“, като умишлено заглушава гледната точка на другия, и нещо повече, с абсолютна безчувственост към всякакви страдания освен неговите собствени и тези на неговите приятели.“
Демокрация на ИИ
Погледнем ли напред в бъдещето, вече ще сме разбрали, че една от основните цели на демокрацията е да освободи информацията и познанието, съхранени в умовете на хората, и да ги приложи в политиката. Но ако се замислите, изборите и референдумите не създават кой знае каква съкровищница от информация. Гласуване по малък брой въпроси – обикновено кандидатите на коя партия подкрепяте – създава твърде малък брой точки за данни. Поставено в контекста на все по-квантифицирано общество, генерираното от избирателния процес количество информация – дори като се вземат предвид частните допитвания – е смешно малко. Вземете предвид и че през 2020 г. се очаква на всеки два часа да генерираме толкова информация, колкото цивилизацията ни е генерирала от появата си до 2003 г. Тази информация ще създава отчет за човешкия живот, който би бил непредставим за предшествениците ни.
И това поставя въпроса: защо да управляваме на базата на една чавка в квадратче веднъж на четири години?
Когато съберем накуп и синтезираме големи количества от наличните данни – давайки еднаква тежест на интересите, предпочитанията и стойностите на всеки – ние можем да създадем най-ясният и най-пълен портрет на общото добро. При този модел политиката ще може да бъде базирана на несравнимо богата и точна картина на животите ни: какво правим, от какво имаме нужда, какво мислим, какво казваме, как се чувстваме. Тези данни ще бъдат непрекъснато актуални, ъпдейтвани в реално време, вместо събирани веднъж на четири или пет години. На теория те биха позволили по-добра политическа равнопоставеност, тъй като ще бъдат събирани от всички поравно, а не само от политически активните. И данните не лъжат, твърди този аргумент – те ни показват каквито сме, а не каквито мислим, че сме.
Системите за машинно обучение са все по-способни да научават нашите възгледи от това, което казваме, и вече съществуват технологии за анализиране на общественото мнение чрез обработка на популярните позиции в социалните медии. Дигиталните системи вече предсказват индивидуалните ни възгледи с все по-голяма точност. Алгоритъмът на Facebook например на базата на само 10 лайка вече може да предсказва позициите ни по теми по-добре от колегите ни, на базата на 150 – по-добре от членовете на семейството ни, на базата на 300 – по-добре от съпругата / съпруга ни. И това е нищожно количество информация в сравнение с това, което ще бъде достъпно в близкото бъдеще.
Логичният следващ въпрос е: каква роля ще играе за в бъдеще изкуственият интелект в управлението на делата човешки?
Знаем, че вече има стотици, ако не и хиляди задачи и дейности, които преди са били правени само от хора, които сега могат да се правят от ИИ, често по-добре и в много по-големи размери. Тези системи вече могат да бият най-добрите играчи-хора в почти всички игри. Имаме всички основания да очакваме не само че тези системи ще стават все по-добри за в бъдеще, но и че подобряването им ще се ускорява все повече и повече.
Ние все повече доверяваме на ИИ системи задачи с най-висока важност и към които сме най-чувствителни. От наше име те търгуват стоки и дялове за милиарди долари, съобщават новините и диагностицират фатални заболявания. В близкото бъдеще те ще шофират нашите коли вместо нас, и ние ще разчитаме да ни докарат безопасно където трябва. Вече нямаме проблеми да поверяваме живота и доходите си в (метафоричните) ръце на ИИ системи. И тъй като те ще стават експлозивно все по-способни, комфортът ни ще бъде все по-оправдан.
При това положение не е неразумно, да не говорим за налудничаво, да попитаме при какви условия бихме позволили на ИИ системи да участват в някои от функциите на правителството. Ако Deep Knowledge Ventures – базирана в Хонг Конг инвеститорска фирма – може да повери избора на борд на директорите ѝ на алгоритъм, би ли било много странно в бъдещето да поверим на ИИ система управлението на местните водопроводни услуги или енергийни доставки? Време е специалистите по политическа теория да приемат сериозно идеята, че политиката – точно както търговията и много професии – може да се окаже подходяща кариера за изкуствения интелект.
Най-първо бихме могли да използваме простички ИИ системи, за да ни помогнат да правим изборите, които демокрацията изисква от нас. Вече съществуват приложения, които ни съветват за кого да гласуваме на базата на нашите отговори на въпроси. Едно такова приложение се рекламира като „уреждане на политически романси“, което звучи малко като отиване на среща на сляпо с неприятно изглеждащ политик, който ви чака на бара. За в бъдеще подобни приложения ще стават все по-сложни, черпейки информация не от въпросници, а от данните, които показват реалните ни животи и приоритети.
По-нататък може би дори бихме позволили на подобни системи да гласуват вместо нас в демократичния процес. Това би включвало делегиране на правомощия (за по-дребни или по-големи неща, според както решим) на специализирани системи, на които вярваме да определят нашите интереси по-точно, отколкото ние можем. Облагане с данъци, помощи за консуматори, екологични политики, финансови регулации – всичко това са области, където сложността или необразоваността ни могат да ни окуражат да упълномощим ИИ система да вземе решението вместо нас, на базата на каквото то знае за нашия опит и предпочитания. При интензивна пряка демокрация от типа, описан по-горе, делегирането на гласа ви на доверена ИИ система може да спести доста часове на ден.
Още по-напредничав модел може да включва централно правителство, което прави допитвания до популацията хиляди пъти дневно, вместо по веднъж на четири години, без да се налага да му отделяме време. ИИ системи могат да отговарят на правителствени нано-гласувания от наше име, с мигновена скорост, и отговорите им няма да се налага да бъдат ограничавани до просто да или не. Те биха могли да съдържат условия (моят гражданин подкрепя този аспект на това предложение, но е против онзи аспект) или степени на отношение (моят гражданин е донякъде против това, но категорично подкрепя онова). Такъв модел ще може да твърди с много повече основание, че взема предвид интересите на обществото, отколкото моделът, който използваме днес.
С времето ИИ могат да вземат участие дори в законодателния процес, като помагат да се съставят предложения за закони или техни промени. Още по-нататък дори бихме могли да позволим на ИИ, легализирани като юридически лица, да биват избирани на административни и технически позиции в правителства.
ИИ системите могат да участват в демокрацията, като в същото време остават подчинени на традиционните демократични процеси като човешки обсъждания и гласувания. Също така, те могат да бъдат подчинени на етиката на човешките си господари. Не бива да е необходимо хората да предават на тях своите морални преценки, ако не желаят.
Въпреки всичко, към идеята за ИИ-базирана демокрация има и сериозни възражения. Най-първото сред тях е възражението за прозрачност: можем ли наистина да наричаме една система демократична, ако не можем да разберем основата на решенията, които се вземат от наше име? Въпреки че ИИ-базираната демокрацията може да ни направи по-свободни и проспериращи в ежедневието ни, тя също така може да ни превърне в роби на системите, които вземат решения от наше име. Не е трудно да си представим как Перикъл клати глава с отвращение.
В миналото хората са били подготвени при определени обстоятелства да предават политическите си права на могъщи недостъпни интелекти. Преди да са имали крале, евреите от Стария завет са живеели, без да се занимават с политика. Били са подчинение единствено на Бог, обвързани от клетвата, която предшествениците им са дали пред него. Древните гърци са се водели по поличби и оракули. Римляните са се ръководели от звездите. Тези практики сега ни изглеждат глупави и далечни, неадекватни към познанията ни за рационалност и научен метод. Те обаче ни карат да се замислим. Колко далеч сме готови да стигнем – и какво сме готови да жертваме – за да постигнем система за управление, която наистина представлява хората?
—-
Ентусиазира ли лично мен идеята за ИИ-та, които гласуват от мое име? Не особено. Надявам се да смогна да разкажа защо, в последващ запис. Но диагнозата на съвремието ни – и описанието на традициите на тази диагноза – е толкова точно, че дори само то вече си заслужава четенето.
А пък мисля, че и в идеята за гласуващите и дори за управляващите ИИ системи има хляб, ако бъде реализирана правилно – но това вече е друга тема.