Накратко всеки алгоритъм зависи от данните, върху които е обучен. „Това е малко като правенето на вино. Без значение колко добър е процесът, който прилагате, ако гроздето е лошо, виното също ще бъде лошо. Можете да подобрите или промените качеството на гроздето, но никога не можете наистина да го премахнете", прави аналогия Михай. И допълва: „AI е инструмент – огледало, което отразява обратно към нас. Ако му предоставим ясен и безпристрастен образ, това ще засили най-добрите ни качества. Но ако го захранваме с нашите недостатъци и пристрастия, то ще ги увеличи."
Вероятно се питате: ако всичко е толкова ясно, просто и логично, какъв е проблемът да се приложи на практика? Отговорът е прост –
зад изкуствения интелект винаги стоят хора със своите пристрастия,
политическа и социална ориентация, цели, намерения и каквото още може да ви хрумне. И колкото повече започваме да разчитаме на алгоритми, толкова по-висок е шансът да станем заложници на пристрастията, заложени в данните, с които са обучавани, дори без да осъзнаваме това.
Експертите всъщност все още не могат да постигнат консенсус кой всъщност трябва да е отговорен за това, което сътворява в своя по-нататъшен живот изкуственият интелект. Компанията, която го е поръчала? Разработчиците, които са го създали? Хората, предоставили данни, за да бъде обучен? Тези, които са подбрали кои от тези данни да бъдат използвани при обучението? Регулаторите, които ще контролират крайния продукт и употребата му?
Отговорът е: всички по малко.
Фирмите, които поръчват, а по-късно ще използват алгоритмите, които командват изкуствения интелект, трябва да са прозрачни за целите, които преследват, и резултатите, които получават.
Учените по данни (Data Scientists – бел. авт. ) са отговорни да гарантират, че данните, които предоставят за т.нар. machine learning – машинното обучение, са достатъчно акуратни и представителни.
Разработчиците на алгоритми трябва във всеки момент да могат да обяснят какви данни са употребили при машинното обучение. Когато има прозрачни и обясними алгоритми, хората ще могат да разберат как изкуственият интелект взема своите решения.
Не по-малка е отговорността на регулаторите, които трябва да гарантират, че тези алгоритми не се използват по начини, които нарушават правата на хората или дискриминират определени групи.
Е, вече разбирате, че има огромен шанс нещо да се пропука по тази дълга, дълга верига.
Ако всичко написано дотук звучи тревожно, поемете спокойно дъх. Оказва се, че дори пионерите на изкуствения интелект не са единни по ключови въпроси дали трябва да се тревожим за съдържанието и знанието, генерирано от машините, умножават ли се рисковете, или учените ще намерят начин да ги овладеят и т.н.
Какво мислят някои от хората, вдъхновили еволюцията и революцията на изкуствения интелект – виж на следващата страница.
AI – бляскаво бъдеще, или "Ферари" в ръцете на 16-годишен?
Забавно, даже поучително е да се чуе колко различно мислят т. нар. пионери на AI по въпроса дали системите за изкуствен интелект не причиняват повече проблеми, отколкото решават, и дали AI не се развива по-бързо, отколкото може да бъде регулиран.
Едно от местата, където се случват тези оживени разговори, е Форумът на лауреатите в Хайделберг, който се провежда всяка година от 2013 г. насам – тоест много преди AI да преживее истински бум.
През септември 2023 г. AI бе една от основните му теми.
„Системите за изкуствен интелект не са надеждни. Те никога няма да бъдат надеждни. Но и
човешките същества не са
надеждни. Защо тогава искате AI да бъде
надежден?", казва в Хайделберг без капка тревога един от пионерите в AI д-р Радж Реди, професор в американския университет „Кернеги Мелън". Той е носител на наградата Turing за проектирането и изграждането на широкомащабни системи с изкуствен интелект. За да смекчи объркването в публиката, Реди простичко заключава: „Някои хора са по-надеждни от други. Мисля, че трябва да приемете същото и за машините."
Той е оптимист, че когато автономните превозни средства бъдат подобрени и започнат да се използват по-широко, смъртните случаи при катастрофи ще намалеят драстично. „AI ще служи като катализатор за персонализирано обучение. Това ще ускори достъпа до образование за по-големи групи от населението.
AI ще позволи на хората да правят 10 пъти повече неща, отколкото могат да направят днес, което означава създаване на 10 пъти повече богатство", оптимист е Реди.
Оптимист е и неговят колега Алексей Ефрос, професор по компютърни науки в университета „Бъркли" в Калифорния.
„Путин и войната в Украйна са много по-страшни от изкуствения интелект
Това е заплаха за цялата демокрация. Или ние ще победим Путин, или Путин ще победи света. Биотероризмът и изменението на климата също са много по-страшни от заплахата от изкуствения интелект", смята Ефрос – носител на наградата на Асоциацията за изчислителна техника за своя новаторски принос в компютърната визуализация. Ефрос е роден и израснал в СССР, но емигрира с родителите си в САЩ, когато е на 13 г.
На коренно противоположното мнение за потенциалните заплахи от изкуствения интелект е Мартин Хелман – друг лауреат на престижната компютърна награда Turing за приноса му към създаването на криптографията – технология, която поддържа сигурната обмяна на информация онлайн. Според Хелман
AI e „заплахата на деня"
заедно с други потенциялни заплахи като ядрените оръжия, генното инженерство и изменението на климата. „Човечеството е като 16-годишно дете с чисто нова шофьорска книжка, което се е сдобило с „Ферари" с 500 конски сили – казва Хелман – Или ще трябва да пораснем бързо, или ще се самоубием".
Хелман не е единственият носител на наградата Turing, който изразява дълбока загриженост за посоката и скоростта, с която се развива AI.
Коментари (0)
Вашият коментар