Манипулацията не е нова. Мащабът е нов

Хората се влияят от пристрастно поднесената информация още от зараждането на публичното слово. Новото не е самата манипулация, а скоростта, с която се разпространява, както и инструментите, с които се създава. Генеративният ИИ не е първоизточникът на дезинформацията. Той я прави евтина, бърза и почти неразличима от истината.

Подготовката на учениците за новата дигитална действителност изисква изграждане на разбиране на три нива: как работи манипулацията върху човешкия ум, какви са класическите пропагандни техники и как генерираното с изкуствен интелект съдържание ги усилва до безпрецедентен мащаб.

Как манипулацията работи върху ума

Когнитивни изкривявания – вратите, през които влиза манипулацията

Когнитивните изкривявания са систематични грешки в мисленето, които всички хора правим – не защото сме некомпетентни, а защото мозъкът е еволюирал за вземане на бързи решения, а не за правене на задълбочени анализи. Тези „преки пътища“ са полезни в ежедневието, но ни правят уязвими в информационна среда, проектирана да ги използва срещу нас. В тях има както психология, така и конкретни маркетингови трикове, за които е добре да сме информирани.

Ето основните видове когнитивни изкривявания:

• Потвърдителното пристрастие е може би най-мощното: склонни сме да приемаме информация, която потвърждава вече съществуващите ни убеждения, и да отхвърляме тази, която ги оспорва. Алгоритмите на социалните мрежи например не само отразяват това изкривяване – те активно го усилват, като ни показват съдържанието, което потвърждава убежденията ни – защото именно то предизвиква по-силна реакция и по-голямо ангажиране.
• Ефектът на наличността ни кара да считаме нещо за по-вероятно или по-важно, ако лесно и бързо ни идва наум. Многократното повтаряне на дадено твърдение (дори и грешно) го прави „налично“ в ума ни и то започва да се усеща като познато и вярно. Именно затова повторението е основна пропагандна техника.
• Пристрастието към авторитета ни кара  да вярваме по-лесно на хора, които изглеждат компетентни, официални или уверени. Тук е ключовата връзка с ИИ: езиковите модели звучат авторитетно по всяка тема, независимо дали са прави или не. Учениците са особено уязвими към това изкривяване именно защото ИИ инструментите имат облика на компетентност.
• Ефектът на ореола:  ако харесваме или се възхищаваме на даден човек, сме склонни да приемаме всичко, което казва, като надеждно – независимо от темата. Любимият инфлуенсър на ученика не е авторитет по медицина, политика или история само защото е авторитет в своята ниша. Но ученикът му вярва.
• Ефектът на тълпата: „щом толкова хора споделят това, сигурно е вярно." В дигиталната среда лайковете и споделянията изглеждат като мярка за достоверност, но не са. Те са мярка за ангажираност, която алгоритмите са проектирани да максимизират.
• Ефектът на котвата работи така: първото твърдение, с което се сблъскаме по дадена тема, оцветява всичко следващо. Заглавието на статия може да определи как ще интерпретираме цялото ѝ съдържание – дори ако съдържанието противоречи на заглавието.

Класически пропагандни техники – и защо не изглеждат „лоши“

Важно е да се подчертае: манипулацията рядко изглежда очевидна. Тя работи именно защото използва естествени човешки реакции: страх, принадлежност, уважение към авторитет. 

Ето техниките, които учениците трябва да разпознават:

• Апел към страха – „Ако не направиш това, ще се случи нещо ужасно“. Страхът е най-мощният мотиватор за незабавно действие и е най-ефективният инструмент за блокиране на критичното мислене.
• Фалшива дилема – представяне на сложна ситуация като избор само между две крайности: „Или си с нас, или си против нас“. Всичко по средата – нюансите, компромисите, сложността – изчезва. А това е фалшиво създадена реалност.
• Слагане на етикети – използване на силно натоварени думи за хора или идеи, без да се представят реални аргументи. „Радикален“, „предател“, „елит“ – думите заместват анализа и задействат емоционална реакция.
• Повторение – многократното повтаряне на недоказано твърдение го превръща в „общоизвестен факт“. В дигиталната среда повторението е автоматизирано и мащабно, а ИИ неимоверно улеснява процеса.
• Емоционално натоварен език – силните думи предизвикват силна реакция, а силната реакция изключва критичното мислене. Това е директна връзка между езика и когнитивните изкривявания: манипулативното съдържание е проектирано да задейства емоцията преди разума.
• Апел към авторитет – позоваване на фигура с доверие, без тя реално да е изказала становище по темата, или извеждане на нейни думи от контекст.

Генерирано с изкуствен интелект съдържание – новото измерение

Дийпфейк – когато видеото лъже

Дийпфейк е видео, аудио или изображение, генерирано или манипулирано с ИИ, което представя реален човек в ситуация, в която никога не е бил. Технологията вече не е достъпна само за специализирани екипи – тя е в смартфона.

Конкретни примери: видео на политик, „произнасящ“ реч, която никога не е държал; аудио на директор на училище с „признание“, разпространено в родителска група; изображение на ученик в компрометираща ситуация, създадено изкуствено. Последният пример вече не е хипотетичен – случва се в реални училища.

Признаците стават все по-трудни за забелязване, но все още съществуват: неестествено мигане или пълно отсъствие на такова; размазани ръбове около лицето и косата; несъответствие между движението на устните и звука; неестествено осветление. При аудио: прекалено равномерен ритъм, липса на фонов шум, леко механичен тон.

Синтетичен текст – манипулацията в мащаб

Проблемът вече не е само дали информацията е вярна. Проблемът е, че огромно количество убедително съдържание може да бъде създадено за секунди.

• Фалшиви новини в мащаб – една дезинформационна кампания вече не изисква екип. Хиляди уникални версии на едно и също фалшиво съдържание – твърдение, новина, публикация, сайт – могат да бъдат генерирани и разпространени за минути.
• Астротърфинг – създава се изкуствено впечатление за масова обществена подкрепа чрез автоматично генерирани коментари и профили. Когато изглежда, че „стотици хора“ споделят едно мнение, коментират и харесват, се задейства онова когнитивно изкривяване, което ни кара и ние да повярваме.
• Персонализирана манипулация – ИИ може да адаптира съобщението към конкретна аудитория: различен тон, различни аргументи, различни емоционални апели за различни демографски групи. Манипулацията вече не е масова – тя е прецизирана.

Клонирани гласове – доверието към познатия глас

Синтезът на глас с ИИ достигна ниво, при което са необходими само няколко секунди реален запис. Измами, при които „роднина“ или „шеф“ звъни с неотложна молба, вече се случват масово. В образователен контекст: фалшив запис на „учител“  или „директор“ може да бъде разпространен за секунди и да предизвика паника или манипулация в цяла паралелка.

На какво можем да научим учениците: шест въпроса и едно правило

Медийната грамотност вече не е допълнително умение. Тя е базово умение за оцеляване в информационната среда. Ето филтрите, през които учениците могат да прекарат информацията веднага.

Шестте въпроса преди споделяне:

• Кой е създал това и каква е целта?
• Има ли ясен източник и доказателства?
• Проверено ли е в независим и надежден източник?
• Какви емоции се опитва да предизвика у мен?
• Само един източник ли го твърди?
• Ако премахна емоцията, остава ли аргументът?

Златното правило: манипулативното съдържание разчита на страх, гняв, шок и спешност. Силната емоционална реакция е повод за забавяне, а не за споделяне. Паузата от 30 секунди преди препращане е навик, който може да предотврати реална вреда.

Накратко: какво да знаете, преди да влезете в клас