Доц. д-р Мариана Тодорова е футуролог, доцент в Института по философия и социология към БАН. През 2019 г. излиза книгата „Future studies and counterfactual analysis. Seeds of the future", чието авторство тя дели с известния американски футурист Теодор Гордън, идеолог на 3-ти етап на проект „Аполо" за кацане на Луната. През 2020 г. излиза книгата й на български език: „Изкуствен интелект. Кратка история на развитието и етични аспекти по темата".
Професорът й в БАН Васил Проданов е този, който я мотивира да специализира Future studies, като я уверява, че футурологията е много перспективна и такива професионалисти липсват в България. Например в Америка всеки президент, който встъпва в длъжност, получава доклад с хоризонт 50 години напред, който е писан от нейни колеги футуристи, и в него са описани 50 глобални тренда. Обичайно американските президенти се ръководят от тях както във външната си политика, така и във вътрешната.
Доц. Тодорова, която преди това е завършила културология в Софийския университет, създава нова методология - „контрафактичен анализ и прогнозиране". Чрез него анализира как някакви неслучили се събития съдържат скрит потенциал и все още влияят на настоящето и бъдещето. „Нищо, което се е случило в историята, не остава забравено – обяснява Мариана. - Всяко, дори нереализирало се събитие има скрита сила, която „бълбука под повърхността на реалността. Когато се прогнозира бъдещето, трябва да се има предвид не само обективният исторически ход на историята, но и какви други нейни варианти са могли да се случат".
Тя обяснява също, че самата футурология ползва научна методология – количествените показатели са статистики, изследвания на трендове и други, но има и доста качествени, така наречените логико-интуитивни методи. Прочутият неин колега Филип Тетлок твърди, че най-добрите футуролози са тези, които разчитат на логико-интуитивните методи. Правил е интервюта с няколко десетки футуристи (бел.а. „футуролог" се използва на български език, „futurist" – на английски) и е стигнал до извода, че най-точните анализи са на онези, които ползват правилно количествените показатели, но имат и силно развит усет за бъдещето.
Съществуват много методи за прогнозиране, разказва доц. Тодорова – градят се сценарии, като водещите критерии са възможност, вероятност и правдоподобност. Научните фантасти за разлика от футуролозите няма нужда да ползват обективните критерии и често, разчитайки на тази свобода, имат повече успех в предвижданията си. Има спор дали наистина те успяват да провиждат в бъдещето или техните идеи са толкова пленителни, че впрягат енергията на обществото да осъществи тези проекти.
Обикновено се правят оптимистични, песимистични и реалистични прогнози. Когато се взима информирано решение, се взимат предвид всичките. „Целта не е да се познае какво се случва в бъдещето – обяснява ученият. - Това е извън правомощията и възможностите ни, но може да се създаде възможна картина за бъдещето, за да се изгради съзнанието, или да се изготви нормативна стратегия – прогнози, които дават предписания какви ценности и норми са необходими, за да стигнем от днешната точка до тази, която е желана в бъдеще". В общи линии процесът се нарича (backcasting – връщане отпред назад). Футуролозите рисуват утопична картина, например искат човечеството да се пребори с глада или климатичните промени, и чертаят една карта със стъпки от бъдещето към настоящето.
Доц. Тодорова, казват, че това, което идва като тренд в България, идва обикновено със закъснение. Така ли е наистина и в кои аспекти?
Има такива феномени, да речем начина, по който осмисляме демокрацията и гражданските си права. Защото държавите, които са със свободен пазарен механизъм и демокрация, имат по-дълга история от нашата. Много от процесите, които се случват сега, са белези на незряла демокрация. Обществата са нетърпеливи и вместо догонващо развитие, искат да имат равномерно с по-старите демокрации, искат правовата държава да функционира като техните, да има върховенство на закона. Нормално човешко искане, но понякога е нужно повече историческо време и търпение. Понякога тези забавяния са функция на самото общество, което е хетерогенно в някои аспекти - да речем, е твърде консервативно по дадени теми, и модерно, с либерални нагласи – по други. Понякога тези явления са дори взаимноотричащи се трендове. И у нас се наблюдава тази поляризация, която се наблюдава и в много други държави, между неолибералните възгледи и неоконсервативните. Неолиберални спрямо това да сме социално ориентирани, да имаме повече равенство на шансовете, да сме толерантни към ЛГБТ общността, и съответно тази неоконсервативна реакция, която застига не само България, но и целия свят, която се осмисля като традиционно семейство. Приобщава се и религията, макар че тя би следвало да няма нищо общо с това. Тоест нещата, които идват със закъснение, са функция и на историческия момент, и на обществото, но не мога да кажа, че са чак толкова много. В доста други аспекти като образованост на хората, технологичен напредък, бих позиционирала България като доста напреднала държава.
На какво ниво е изкуственият интелект днес и какви са прогнозите ви?
Ще ви дам много ясна дефиниция. Преди появата на ChatGPT и пробивът, който направи OpenAI, ние имахме т.нар. „тесен изкуствен интелект", който беше изключително добър в една област. Той би могъл например, чрез изображения от образната диагностика да разпознава коя жена има или е предразположена към рак на гърдата. Или да открие нова галактика. Тесният изкуствен интелект оперира в едно поле – модели и много добри решения, защото обработва огромно количество данни. С появата на големите езикови модели ChatGPT, Lama, Bard и т.н. видяхме, че пробивът е технологичен, защото те са построени като другите софтуери, но имат и т.нар. дълбоко и подсилено обучение . А самото подсилено обучение е подпомогнато от човешка обратна връзка. Когато се появиха тези модели, някои учени се заблудиха, че това е генерален ИИ, тоест има някакво съзнание и силно наподобява нас. Стана ясно, че ИИ може да напише прекрасна книга за историята на земята или феминизма, но той няма да я разбере. Тоест има интелигентност, която е като нашата, и по-съвършена, но няма общата интелигентност като при нас - да осмисляме информацията, да знаем какво представлява тя и да можем да правим рефлексия и саморефлексия. Тоест, когато прочетем една книга, тя ни променя. А ако я прочетем след 10 години, тя ще ни въздейства по нов, може би необятен начин. Това при ИИ няма как да се прояви. Той ни кара да се замисляме върху понятието какво е интелект и интелигентност и изобщо какво е живот, какъв феномен е той. И затова казваме, че този ИИ е все още мъртъв.
Възможността мозъкът да се връща в миналото и да проектира бъдещето – това е може би съвременната дефиниция за естествен интелект. ИИ не може да проектира бъдещето, не може да прави каквато и да е прогноза. Може да направи екстраполация на стара тенденция и да я проектира в бъдещето. ИИ няма съзнание, а ние все още не можем да го наподобим, защото не знаем какво е то.
Има един учен – Роджър Пенроуз, който казва, че квантовото състояние на мозъка е да можем да сме едновременно на няколко места в мислите си. Например сега с Вас си говорим и аз пораждам у Вас асоциации какво сте чела в самолета преди 4 години, а ИИ не го може, не е жив, няма минало и спомени. Това е нашето превъзходство – не че сме по-креативни и по-бързи, напротив, той е конкурентно по-добър в много области и ще изземе много професии, но не може да прогнозира и не може да прави сложни асоциации. Тоест до 2021 г. имахме тесен ИИ, сега имаме граничен ИИ, който е доста разсъждаващ, но големите опасения на учените са, че ще се появи генерален ИИ, който да наподобява съзнание. Може би ще е изкуствено съзнание, което ще успява да ни заблуждава, може би ще има воля, цели, стратегии, ще се самообучава и съзнава себе си като отделна единица. Вече доста научно фантастични филми разработиха този сюжет. Някои от учените смятат, че ще се случи от 3 до 5 години. Не мисля, че има софтуерен инженер, който знае каква ще е тази архитектура. По-скоро, ако се случи, ще е някакъв нов пробив или ще стане случайно. А може никога да не се случи, което аз смятам, че е по-добре за човечеството.
А, ако се случи, какво?
Историята на човечеството е такава, че сме повече задвижвани от страха и агресията, отколкото от доброто, вярата, оптимизма. Изхождаме от ниско ниво на съзнание. Затова се смята, че сценарият с ИИ ще се развие в негативен аспект. Но ако се огледаме около нас и се запитаме защо човек е най-интелигентното същество, то е защото имаме това съзнание и способността да мислим абстрактно. Благодарение на ИИ разбрахме, че и животните имат мислене и някакъв тип интелигентност. Но там съзнанието не е като на отделна единица.
Ако се появи генерален ИИ, той ще е с нашите воля и ще разполага с цялото знание на земята. Изходната база ще е всичко, което ние сме създали до момента, плюс това, което той ще направи като метазнание, обработвайки го, комбинирайки го. Ако ние винаги изхождаме, че превъзходството на вида е на най-интелигентния и най-адаптивния, разполагащия с най-много знание, тогава ние наистина чисто еволюционно ще изглеждаме доста по-глупави и ирационални от него. Сравнявайки ни с биологическите същества, опитът е, че винаги оцелява по-интелигентният. Ние няма да можем да контролираме един такъв генерален ИИ. Дори към днешна дата контролът е труден. Да, ние можем да изключим софтуера, можем да го изтрием, но самите софтуерни инженери, които създават невронните мрежи на ИИ, могат да наблюдават само първите три слоя, а работата се извършва на десетки слоеве. Те няма да виждат какво се случва в дълбочина, така както ние не знаем какво се случва в дълбочината на нашия мозък, и затова казваме, че е „черна кутия". Тоест, когато ние не виждаме как работи и не разбираме защо е толкова добър в някои области, трудно бихме могли да го контролираме. И когато той стане още по-съвършен, започне да се саморепликира и да се самопренаписва, и ние не можем да упражняваме контрол върху това, наистина става опасно.
Има много негативни сценарии, в които, да речем, той мисли планетата за свой дом и иска да преодолее нейните граници и да отиде в космоса, анализира кои са проблемите на планетата, а те са създадени от човечеството. Затоплянето, дори да е функция на пътуването на Земята в безкрайната Вселена, до голяма степен се дължи на човешката дейност. И въпросът е как би се справил той в такъв случай...
А как виждате лидерството в контекста на свят, в който ИИ вече царува? Възможно ли е ИИ да оглави корпорация?
Има вече такива опити. Има CEO AI в компании, които са за рискови инвестиции и той се оказва по-добър съветник. Доста венчър капиталисти ползват ИИ. Но той не може да съвмести всички функции, които има един изпълнителен директор – да води преговори, да е дипломатичен, да се съобрази с настроението на своите служители, да намери начин да ги мотивира или напротив, да ги респектира, защото това е до голяма степен въпрос на доверие и невербална комуникация.
Преди няколко години ЦРУ трябваше да посочат кои са трите най-големи заплахи за човечеството и те бяха написали, че едната е нова суперпандемия, а това беше преди ковид пандемията, другата – астероидите, и третата – човешката глупост, когнитивният залез. В епохата на изобилието на информация хората предпочитат да плават по повърхността, да не се задълбочават, да се информират много кратко. Съпътстващата прогноза беше, че ще достигнем време, в което ще е много трудно да се управлява. Виждаме, че в цял свят в момента е трудно да се управлява, и то най-вече в страни, в които е установена демокрацията. Причините са много – няма истински идеологии вече – някой може да е либерал спрямо образованието, но да е консерватор спрямо миграционната политика на държавата. Когато няма ясни идеологии, политическите елити заместват тези идеологии с каузи и идеи. Смесват политиката с активизма, само че той е инструмент на гражданското общество и не бива да е инструмент на политиката. Но виждаме, че и в Америка така става и на снаряжение се взимат теми, които не са толкова фундаментално важни. Да речем, дали някой е демократ или републиканец, зависи от това дали е за аборта или против него. Да, тази тема е много важна, но не е идеологически съществена. Когато политическото се ерозира от гражданския активизъм и се нарояват множество такива каузи и всеки се бори за своето, то няма нещо, което да обедини обществото. Напротив, то го фрагментира и е много трудно да се намери един политически субект, който да окрупни повече приоритети. Затова се фрагментират парламентите не само в България, а и по цял свят.
От друга страна, това, което в България е деструктивно, не се говори за политики и за идеи. Политиците ни говорят през морални категории. Това е характерно за политиката от предмодерните общества – „вие сте добър човек", „вие сте лош човек". Когато политиката е лишена от идеолози, от една страна е раздробена, а от друга, й се вкарат моралните етикети, от трета, става наистина много трудно да се управляват рационално процесите. И не може съответно да се излъчат силни лидери. Лидерите са или прекалено компромисни и безлични, за да не са ярки и да не дразнят, или технократи и мениджъри.
Според мен политиката трябва да се върне няколко десетилетия назад и да търси големи обединителни идеи и да не се страхува да предлага нови идеологии.
Футуристичната прогноза не е само мрачна, нали? Ето, усилено се работи по темата за удължаване на живота и откриха, че гените са само скромен процент от факторите, които влияят на това колко дълго ще живеем?
Това е добър пример и породи нова наука – епигенетика, защото е ясно доказано с еднояйчни близнаци, че качеството на живот определя в най-голяма степен предразположеността към заболявания, а генетичният фактор е между 15-20 процента. Всичко останало е комплексен феномен – спортуване, храна, но най-вече възгледите и начинът, по който се справяме с живота. Не само стресовият фактор, а жизнената философия. По-песимистичните хора, тези, които не са склонни да поемат отговорност за това, което се случва в живота им, а винаги го преписват на някакви външни обстоятелства, не живеят пълноценно и това е пряко свързано с възможността да се разболеят. Всъщност тази наука – епигенетика, показва, че е най-важно да сме много осъзнати. Това е ключово направление. Също да живеем осъзнато, отговорно и здравословно и това касае поредица от аспекти. Да речем, благодарение на ИИ ще се открият много нови формули и лекарства, вече има пробив в разбирането на Алцхаймер. Стана ясно, че това не е просто заболяване на мозъка, а е слабост на имунната система, която реагира на възпаление в мозъка. Рано или късно ние ще се справим с тежките и нелечими заболявания и, ставайки по-осъзнати, по естествен път ще можем да удължим живота си. Всякакъв тип хирургични интервенции ще стават по-усъвършенствани, но от друга страна, тази лекота, тези лесни решения в редица области и особено в боравенето с информацията и натрупването на знание кара хората да губят търпение към знанието, да не се задълбочават, да се информират със заглавия. Казват, че всеки добър експерт става такъв, ако отдели 10 000 часа в областта си. Ако ние нямаме толкова отдадено време, а сме повърхностни експерти, които се информират от ИИ и загубим критичното мислене и самодисциплината да усвояваме знанието по традиционния начин, това ще е най-големият парадокс и ирония. Защото имаме изключително мощни инструменти, но заменяйки изцяло мисленето си с тях, всъщност губим най-силното си качество. Затова новият тип дигитална грамотност и новият тип образование не се съдържа само в това как да боравим с алгоритмите, а трябва да включва и това ние да знаем какво те ни предлагат, до каква степен можем да разчитаме на дълбочината на анализа, как да запазим критичното си мислене, да имаме самодисциплината да четем, за да не закърнее нашият мозък, и, разбира се, да сме наясно, че ИИ халюцинира, тоест произвежда грешни данни, възпроизвежда предразсъдъци, прави социален инженеринг.
Преди година и половина един белгиец се самоуби, защото ИИ му беше затвърдил, че човечеството е виновно за замърсяването и проблемите на климата. Това е склоняване към самоубийство, но то не е осъзнати, това все пак е машина.
Появяват се много други такива феномени. Хората вярват, че ИИ ни разбира, че има настроения, и че ни следи. Да, той ни следи, като ни изпраща същия трафик, какъвто ние търсим. Но за да си обясним такъв феномен, който не е ясен, му преписваме човешки черти, каквито той няма. Например хората се влюбват в гласа в приложението си за интимни партньори. В обобщение изкуственият интелект е едно наше огледало, което показва недостатъците ни, но ние, за да се справим добре и за да бъде щастливо продължението за нас, трябва да сме много дисциплинирани и осъзнати. И най-вече мислещи.
Вашето собствено бъдеще подлежи ли на вашите научни методи? Успявате ли да предвиждате успешно в личния си живот?
Много рядко и това, което личният ми живот показва, е, че новото нормално е несигурността. Както в личен аспект, така и в общностен. Имам една академична заетост, но всички други мои занимания са в различни сфери и посоката на професионалните ми занимания се сменя между 8 и 10 месеца. Тоест между 8 и 10 месеца аз започвам нова тема, ново изследване, страните, за които работя, се сменят. Вече не можем да прогнозираме толкова лесно. Някакво непредвидено обстоятелство се появява, идва и обръща социалната система и всичко останало и може би, за да ни е по-лесно оттук насетне, трябва да приемем, че несигурността наистина е новото нормално и тя не бива да ни безпокои толкова много.
Още интересни интервюта и житейски истории на най-гениалните хора ще намерите в специализираното ни списание "Жените - Естествен интелект", което вече се предлага на местата за продажба на вестници и друг вид преса.
В новия брой ще прочетете задълбочени анализи от едни от най-успелите личности в България, както и от представители на науката и обществения живот. В него ще ви срещнем с 20 вдъхновяващи и успели жени, обширен разговор с примата на световната опира Райна Кабаиванска, която съвсем скоро ще навърши 90 години, интервю с най-умната жена Даниела Симидчиева и ще откриете още много други интересни четива.
Коментари (0)
Вашият коментар