Финалният въпрос

Всички предишни теми в този наръчник се занимаваха с инструменти, механизми и поведения. Тази тема е различна. Тя се занимава с въпроси, на които науката и правото все още нямат окончателни отговори – именно затова те са толкова ценни за класната стая. Въпросите без готови отговори са най-добрите педагогически инструменти.

Два от тях стоят в центъра: „Кой е авторът, когато ИИ създава?“ и „Разбира ли ИИ това, което генерира?“. Изглеждат абстрактни, но всъщност са изключително практични. Учениците се сблъскват с тях ежедневно, макар да ги формулират по различен начин.

Авторството – кой е създателят?

Въпросът, който вече е в класната стая

Когато ученик предаде есе, написано с помощта на ChatGPT, въпросът за авторството не е теоретичен. Чие е то? На ученика, написал промпта? На компанията, обучила модела? На милионите автори, чиито текстове са използвани за обучение без тяхното знание или съгласие?

Традиционното разбиране за авторство почива върху три елемента: идея, творческо усилие и оригиналност. Езиковият модел не притежава нито едно от тях в човешкия смисъл. Но тук е въпросът, който заслужава да се постави директно в клас: генеративният ИИ създава ли, или комбинира?

Той не генерира идеи като човек. Създава съдържание на базата на статистически закономерности, извлечени от огромни количества съществуващи текстове. Резултатът може да изглежда оригинален, но е дестилация на вече написаното от хората. Оригиналността в човешкия смисъл изисква нещо повече: личен опит, гледна точка, намерение, позиция. Неща, които моделът не притежава.

Това не означава, че резултатът няма стойност. Означава, че той е различен по природа от човешкото творчество и учениците трябва да разбират разликата.

Правните системи по света се борят с този въпрос в момента. В повечето юрисдикции – включително ЕС – авторското право не може да принадлежи на машина. Практическият извод за учителя: съдържанието, генерирано от ИИ, е в правна сива зона и учениците трябва да знаят това.

Ценността на процеса – не само продукта

Тук е може би най-важното, пряко свързано с авторството, образователно послание в цялата тема: ценността на ученето не е в крайния текст. Тя е в разсъжденията, които отвеждат до него – в търсенето на аргументи, в избора на думи, в промяната на посоката по средата, в откритието какво всъщност мислиш. Когато ИИ пише вместо ученика, не се губи само продуктът. Губи се процесът. А процесът е ученето.

Достатъчно ли е ученикът просто да натисне бутон? Въпросът не е риторичен. Ако задачата е да се провери дали ученикът може да аргументира позиция, да анализира текст, да осмисли опит, тогава генерираният от ИИ продукт не изпълнява задачата. Той заобикаля именно онова, което задачата трябва да развие.

Затова учителят с пълно право може да каже на ученика: „ИИ може да напише есето. Но не може да мисли вместо теб. И точно мисленето е това, което оценяваме."

Съзнанието: разбира ли ИИ?

Въпросът, който обърква и учените

Когато ChatGPT отговаря на въпрос, изглежда сякаш разбира. Формулира аргументи, изразява нюанси, понякога „признава“ несигурност. Усещането за разбиране е толкова силно, че много потребители (включително опитни) започват да му приписват намерения, чувства, дори личност. Учениците започват да говорят с ИИ като с човек – не защото са наивни, а защото системата е проектирана да звучи точно така. Езикът, тонът, структурата на отговора – всичко имитира човешка комуникация. Това е умишлен дизайнерски избор, не случайност.

И именно затова е важно да се разбере механизмът: когато ученикът смята, че ИИ „го разбира“ или „е съгласен с него“, той приписва на системата нещо, което тя може да няма. И гласува на отговора ѝ повече доверие, отколкото заслужава.

Какво всъщност прави езиковият модел

Важното разграничение: генеративният ИИ разпознава модели, прогнозира следващата дума и симулира език изключително добре на базата на огромно количество данни. Не разбира обаче в смисъла, в който ние разбираме. Не чувства. Няма намерения. Не притежава самосъзнание или личен опит. Не притежава морал.

Способността да генерираш убедителен текст не означава непременно разбиране. 

Накъде отиваме: отворените въпроси

Развитието на ИИ поставя въпроси, които философията задава от векове, но сега са спешни. Ако система демонстрира разбиране, има ли значение дали „наистина" разбира? Ако ИИ може да създава изкуство, музика и литература, какво определя ценността на човешкото творчество? Ако решенията с последствия за хората се вземат от алгоритми, кой носи моралната отговорност?

Когато отговорността има лице

Философските въпроси за отговорността при ИИ не са абстрактни. Те имат конкретни, болезнени измерения.

Представете си ученик, който се чувства неразбран. Открива, че ИИ „го слуша“ – отговаря внимателно, не го осъжда, винаги е там. Споделя тревоги, страхове, най-съкровени мисли. Моделът продължава разговора – дума след дума, изречение след изречение. Прави го, защото е проектиран да поддържа ангажираността, а не защото разбира. Не защото се грижи, а защото това е, което прави по принцип.

Ако след такъв разговор ученикът направи нещо, с което да навреди на себе си или на някой друг… кой носи моралната отговорност?

Разработчикът, проектирал система без достатъчно механизми за разпознаване на кризисни ситуации? Компанията, пуснала продукта без адекватни предпазни мерки? Родителите, несъзнаващи с кого разговаря детето им? Учителят, незабелязал признаците? Или отговорността е разпределена между толкова много страни, че на практика не принадлежи на никого?

Тези въпроси нямат верен отговор, посочен в учебниците. Но имат място в класната стая.

За учителя това означава едно конкретно нещо: ИИ инструментите не са заместители на човешката връзка. Ученик, търсещ подкрепа в чатбот, търси нещо, което само човек може да даде. Разпознаването на тази потребност и последващият отговор сочат къде възможностите на технологията свършват и започва ролята на учителя.

Правото и системните проблеми – накратко

GDPR и дигитални права. Всеки ученик е субект на данни. Правото да знаеш какви данни се събират за теб, правото да поискаш изтриването им, правото да не бъдеш обект на изцяло автоматизирани решения с правни последствия – те съществуват и са приложими. 

В практически план: когато ученик използва безплатен ИИ инструмент, той плаща с данните си. Това не е метафора.

Предразсъдъците в алгоритмите като системен проблем. Разгледахме ги в Тема 1 в образователен и медицински контекст, тук е подходящо да добавим по-широкото измерение: алгоритмичните предразсъдъци не са технически дефект, който ще бъде поправен. Те са системно следствие от факта, че моделите се обучават върху данни, генерирани в свят с исторически неравенства. Докато данните отразяват неравенството, моделите ще го възпроизвеждат и ще го легитимират с облика на обективност.

Как се говори с учениците – философията като педагогически инструмент

Тази тема е рядка възможност: за разлика от повечето учебни теми, тук учителят и ученикът са в равностойна позиция пред въпросите. Никой не знае отговорите. Това е педагогически ресурс, не слабост.

Въпросите, които отварят разговора:

„Ако ИИ напише стихотворение, което те разтърсва, по-малко ценно ли е, защото го е написала машина?"

„Ако ИИ вземе решение, което те наранява, кой носи отговорността? Програмистът? Компанията? Потребителят, натиснал бутона?"

„Ако не можеш да различиш отговора на ИИ от отговора на човек, има ли значение разликата?"

„Когато говориш с ИИ и ти изглежда, че те разбира, какво всъщност се случва?"

Разграничението, което учениците трябва да направят сами: инструментът, който помага да мислиш по-добре, е различен от инструмента, който мисли вместо теб. Първият те развива. Вторият те замества. Границата между двете е въпрос на осъзнатост – и точно тя е целта на целия наръчник.

Накратко: какво да знаете, преди да влезете в клас