Как да помогнем на учениците да разбират данните, предразсъдъците в ИИ и отговорността зад автоматичните решения

Учениците рядко мислят за алгоритми, когато скролват видео след видео. В този момент обаче алгоритъмът вече подрежда преживяването им: какво да видят, на какво да се ядосат, кое да им се стори важно, кое мнение да срещат отново и отново.

За много деца и тийнейджъри думата „алгоритъм“ често звучи далечно и технически. В ежедневието на учениците обаче алгоритмите са съвсем близо – в TikTok, YouTube Shorts, Instagram Reels, онлайн игрите, търсачките и платформите за учене. Понякога алгоритмите участват и в решения с по-сериозни последствия: подбор на кандидати за работа, разпознаване на лица, филтриране на информация, показване на реклами.

Логиката е сходна: системата събира данни, прави предположение и ни представя възможностите в определен ред. Разликата е в последствията - при видеата губим време или виждаме едностранчиво съдържание, а при интервюто за работа човек може да загуби реален шанс. 

Темата за справедливите алгоритми започва от това как учениците да разберат, че автоматичното решение трябва да бъде проверявано. ИИ работи с данни, които хората са събрали, подредили и съхранили. При непълни или изкривени данни резултатът може да засегне несправедливо реални хора.

Какво е алгоритъм – през света на учениците

Най-лесно темата може да се въведе чрез алгоритмите, които учениците вече познават. Например алгоритъмът на TikTok, YouTube Shorts или Instagram Reels избира кое да бъде следващото видео. Той отчита кои видео материали гледаме докрай, кои прескачаме, кои харесваме, кои споделяме и на кои се задържаме по-дълго.

Тези действия се превръщат в данни. От тях системата прави предположение: „Това съдържание задържа вниманието. Ще покажа още подобно.“

В много случаи това е удобно. Така откриваме музика, игри, филми, рецепти, спортни клипове или забавни видео клипове. Същият механизъм обаче може постепенно да стесни света, който виждаме. Ако се задържаме на гневни коментари, конфликтно видео съдържание или сензационни твърдения, системата може да ни предлага още такива. Тя измерва кое ни задържа, без да може сама да прецени кое е добро за нас.

Краткото обяснение може да звучи така:

Алгоритъмът взема решение според правила и данни. При изкривени данни решението също може да бъде изкривено.

Така един и същи механизъм може да избере следващото видео, но може и да подреди кандидати, профили, реклами или информация. Затова въпросът за алгоритмите е и въпрос за достъп, видимост и справедливост. 

Какво са данните и защо липсващото също има значение

Когато говорим за ИИ, често казваме, че системите се обучават с данни. За учениците това звучи абстрактно. На помощ идва близък до тях училищен пример.

Представете си училищната лавка. Тя решава какво да зареди за следващата седмица според продажбите:

• пица – много продадени бройки;
  • кроасани – много продадени бройки;
  • ябълки – малко продадени бройки.

На пръв поглед решението изглежда ясно: повече пица и кроасани, по-малко ябълки. Но ако ябълките са свършвали още сутринта, числата вече не показват реалния интерес. Част от учениците са искали да купят ябълка, но не са имали тази възможност.

Това е важен мост към темата за предразсъдъците в ИИ. Данните могат да изглеждат точни, но да са непълни. Могат да показват какво се е случило, без да показват причините. Могат да съдържат стари неравенства и системата да ги повтори.

В час е важно учениците да чуят: проблемът понякога се крие в това какво е било измерено и какво е останало невидимо.

Как се появява предразсъдък в ИИ

Предразсъдък в ИИ се появява, когато системата дава по-неблагоприятен резултат за определени хора или групи заради начина, по който е създадена, обучена, проверена или използвана.

Това може да стане по няколко начина.

Първо, данните може да отразяват стари неравенства. Ако система за подбор на кандидати е обучена с данни от години, в които за технически позиции са били избирани предимно мъже, тя може да започне да разпознава като „успешни“ кандидатите, които притежават характеристики, по-често срещани в мъжките автобиографии. Подобен случай е публично описан при експериментален инструмент за подбор на кандидати, разработван в Amazon, който показва предубеденост спрямо жените, кандидатстващи за технически позиции.

Второ, едни групи могат да са представени в базите данни по-добре от други. При системите за лицево разпознаване това е особено чувствително. Ако системата е обучена и тествана върху ограничен набор от лица, тя може да допуска повече грешки при хора, които са по-слабо представени в данните. В такава ситуация грешката може да доведе до неправилна проверка, подозрение или отказ на достъп.

Трето, системата може да се използва в ситуация, в която автоматичното решение има твърде голяма тежест. Това е риск при всяка технология, която влияе върху шансовете за интервю, достъпът до услуга, видимостта на информация или репутацията на човек.

Тези примери са важни за учителя, защото показват, че темата излиза извън програмирането. Става дума за реални решения, реални хора и реални последствия.

Защо изречението „компютърът така реши“ е опасно

Когато една система даде резултат, често сме склонни да му вярваме повече, защото изглежда математически и безпристрастен. Това е капан. Зад всеки алгоритъм стоят човешки решения:

• кои данни да се съберат;
• кои данни да се изключат;
• какво да се измерва;
• какво да се смята за „добър резултат“;
• кой проверява грешките;
• кога системата се пуска в реална употреба;
• дали засегнатият човек може да получи обяснение и да оспори решението.

Това е една от най-важните идеи в разговора за ИИ. Отговорността не изчезва, когато решението мине през технология. Колкото по-автоматизиран е един отговор, толкова по-важни стават прозрачността, проверката и човешкият контрол.

Кой носи отговорност

Най-важното за учениците е да разберат, че отговорността не се губи в машината. Тя се разпределя между хората, които я създават, пускат в употреба, използват и контролират.

Програмистът има отговорност за начина, по който системата е създадена и тествана. Той трябва да търси грешки, включително такива, които засягат определени групи от хора по-често, отколкото други.

Компанията има отговорност за решението да използва системата. Един инструмент може да бъде бърз и впечатляващ, но все пак неподходящ за важни решения, засягащи хора.

Потребителят има отговорност да не приема автоматичните резултати безкритично. Това важи и за учениците, когато използват препоръки, търсачки, чатботове или социални мрежи.

Засегнатият човек трябва да има право да разбере защо е взето дадено решение и как може да го оспори.

Институциите имат роля в създаването на правила, защита и механизми за контрол.

В клас това може да се превърне в кръгла маса. Когато учениците влязат в роли, те започват да виждат, че справедливостта в дигитална среда изисква участие от различни страни.

Как да говорим за това с учениците

Разговорът може да започне с конкретна ситуация: алгоритъм за видео материали, подбор на кандидати, лицево разпознаване или училищна лавка. След това учениците могат да пречупят разсъжденията си през призмата на три въпроса:

Какво решение взема системата?
Например: подрежда кандидати, препоръчва видео, маркира профил като рисков, разпознава лице.

С какви данни го взема?
Например: предишни назначения, гледани видео материали, снимки, кликвания, оценки, регистрации, минали решения.

Кой може да бъде засегнат?
Например: кандидат за работа, ученик, човек от малцинствена група, потребител, пациент, гражданин.

Какъв навик е важно да изградим

След такъв разговор е важно да остане навикът да задаваме въпроси.

Когато учениците видят препоръка, да се запитат: „Защо ми се показва това?“

• Когато чуят, че система е взела решение, да попитат: „С какви данни?“
• Когато някой каже „алгоритъмът така реши“, да попитат: „Кой го е създал, кой го е проверил и кой носи отговорност?“

Това е същината на дигиталното гражданство: да използваме технологии критично, да разбираме влиянието им и да мислим за хората, които могат да бъдат засегнати.

Накратко: основни понятия

Как да започнем разговор по темата

Разговорът за алгоритмите е най-разбираем, когато тръгне от ситуация, която децата вече познават. Ако често използват социални мрежи, започнете с въпроса защо едно видео се появява след друго и как приложението „разбира“ какво да предложи. Оттам лесно се стига до идеята, че всяко гледане, харесване, прескачане или споделяне се превръща в данни.

След това разговорът може да се пренесе към решения с по-сериозни последици. Подборът на кандидати за работа показва как старите данни могат да ограничат нечий шанс за интервю. Системите за лицево разпознаване пък помагат да се види защо е важно да се запитаме дали технологията работи еднакво добре за различни хора.

В клас тази тема има смисъл, когато учениците не само чуят какво е алгоритъм, а започнат да питат кой стои зад автоматичното решение, с какви данни е взето и кого може да засегне. Това е една от важните стъпки към отговорно дигитално гражданство.