Как AI написа некролог за живия баща на интернет

Опимист само допреди няколко години, днес в групата на загрижените преминава и един от тримата, смятани за създатели на изкуствения интелект – Йошуа Бенджио от Университета в Монреал. Когато през 2019 г. той получи наградата Turing за създаването на изкуствения интелект заедно с Джефри Хинтън от Университета в Торонто и Ян Лекун от Университета в Ню Йорк, Бенджио каза, че потенциалните екзистенциални рискове на AI са достатъчно далеч в бъдещето, за да не се притеснява.

Четири години по-късно обаче – през юли 2023 г.,
той застана пред Сената на САЩ с тревожно послание: „Революцията на системите за изкуствен интелект дава възможност за огромен напредък и иновации, но също включва широк спектър от рискове...
Трябва да действаме неотложно срещу заплахите,
които някои от проявите на изкуствения интелект носят за демокрацията, обществото и националната сигурност." Според Бенджио „нито една от настоящите усъвършенствани AI системи не е доказуемо безопасна срещу риска от загуба на контрол от неправилно настроен изкуствен интелект".

Йошуа Бенджио си е поставил за цел да работи за преодоляването на пропастта между човешкия и изкуствения интелект. „Всеки месец предлагам нова идея, която може да е ключът към тази бариера. Засега това не се получава, но продължавам да се надявам. Може би не моята група, но друга ще го направи. Може да стане скоро, но може да отнеме 10 години. Когато човек прави проучване, му се струва, че е много близо до решение, но после излиза някакво препятствие, което не сме взели под внимание", обяснява трудната битка Бенджио пред американската журналистка д-р Сюзън д'Агустино.
Някои от лауреатите на престижни награди за математика и компютърни технологии, които идват в Хайделберг, откровено признават, че не са могли да предвидят напълно всички рискове от иновациите, които са създали. Сред тях е д-р Винт Сърф, един от бащите на интернет.

Хенри Кисиднжър ми каза: Мразя интернет!

Бащата на интернет д-р Винт Сърф идва всяка година на Форума на лауреатите в Хайделберг, воден от искрено любопитство да чуе какво мислят не само колегите и приятелите му – носители на най-престижните награди по математика и компютърни технологии, но и 200 прецизно селектирани млади изследователи от цял свят.
„Ние в Google се възползваме пряко от форума в Хайделберг, защото наехме някои от студентите, които идват тук. Те се оказаха първокласни инженери и математици", казва д-р Сърф.
Самият той също е носител на най-престижната награда за компютърни технолигии -Turing – еквивалента на „Нобела" в тази област. „Ако сте се чудили

защо няма „Нобел" за математика
и компютърни науки,

ще ви разкажа една история – може и да не е вярна, но е много добра. Алфред Нобел имал приятелка, която избягала с един математик. Нобел решил, че не иска парите му да отиват при човек, който избягал с приятелката му, ако той получи наградата". Истории като тази го правят всеобщ любимец на всички участници на форума в Хайделберг.

Ето малка част от това, което сподели през септември 2023 г.

Когато създавахте интернет преди повече от
50 г., мислехте ли за потенциалните проблеми, които могат да възникнат?
Никога не можеш да предвидиш начина, по който хората могат да злоупотребят с това, което си изобретил. Със сигурност не съм очаквал част от нещата, на които ставаме свидетели сега, и се опитваме да мислим как да се справим с тях. В началото на 70-те години, когато с моя колега Боб Кан вече работехме по арпанет (предшественика на интернет – бел. авт.), в офиса имахме няколко групи, в които обменяхме информация, включително за най-добрите ресторанти в Пало Алто. Тези групи бяха нещо като предшественик на т.нар. социални мрежи и всъщност бяха много полезни. Това, което не можахме да предвидим обаче, бе възможната негативна страна на подобни групи. Много от проблемите, на които се натъкваме сега, са доказателство за провала на въображението ни. Но в началото нашата главна грижа като инженери бе нещата да работят, нищо друго.

Кой е най-сериозният упрек за технологията, който сте чували?
Преди време една учителка ми се оплака, че децата учат и пишат домашните си само от интернет. Казах ?, че намирам това за чудесен начин да прати децата в библиотеката. Предложих й да им даде 10 сайта, а те да кажат в кои от тези сайтове информацията е вярна и в кои – не. Не знам дали го е направила, но това би било наистина добър начин да се възпита критично мислене. Преди около 10 години обядвах с Хенри Кисинджър. В началото на обяда той ми каза: „Мразя интернет!" Помислих си – дотук бяхме! Но се осмелих да го попитам защо. „Защото хората намират там 2 параграфа и мислят, че знаят всичко, а аз съм написал книга със 700 стр. за това." Критичното мислене включва да сме недоволни от твърде малкото информация или от твърде ниското качество на тази информация.
На форума в Хайделберг през 2022 г. предложихте на шега да има книжка за интернет, както има шофьорска.
Това беше шега наистина. Идеята е да учим децата как да използват интернет безопасно, както ги учим да карат кола. Никой не може да забрани на децата да използват интернет, това става във все по-ранна възраст, затова е добре да се научат от малки как да го използват внимателно и безопасно.

Според едно европейско проучане след 5-6 години 90 на сто от съдържанието в интернет ще е генерирано от изкуствен интелект и ще е трудно да се намери съдържание, генерирано от хора. Смятате ли, че това е преувеличано?
Това е доста плашеща прогноза. Ако направим аналогия с израза, че исторята се пише от победителите, това ще означава, че чатботовете са ни победили. От друга страна, историята, написана от чатботове, може да е по-добра от историята, написана от хора, които са предубедени, ако тези чатботове са обучени без притрастия. Но тогава възниква въпросът: откъде можем да знаем как са обучени ботовете и дали носят пристрастия. Не трябва да мисли, че всяко машинно обучение е лошо, или опасно. Има много
приложения на изкуствения интелект, които могат да вършат фантастична работа.

Важно е да правим разлика за какво се използва изкуственият интелект. Има приложения на високите технолигии, които не са толкова рискови. Но когато става дума за финансов съвет, за поставяне на диагноза, или за лечение – това вече е високорисково приложение. Ние се нуждаем от интелигентно използване на изкуствения интелект.