В подкрепа на използването на AI в образователната среда, надзорният орган публикува често задавани въпроси за учители и за администратори на лични данни
Френският орган за защита на данните Commission Nationale de l’Informatique et des Libertés (CNIL) публикува често задавани въпроси относно използването на системи с изкуствен интелект в образователните институции.
CNIL пише, че изкуственият интелект (AI) открива нови възможности за справяне с много предизвикателства в образованието, включително иновативни практики за преподаване и учене. Използването на AI системи може например да помогне на ученика да напредва самостоятелно по даден предмет, като същевременно дава възможност на учителя да ръководи повече проекти.
Най-общо казано, ежедневно използването на системи с изкуствен интелект в образователните заведения може да намери приложения при персонализиране на съдържанието според нуждите на всеки ученик; намаляване на тежестта на повтарящите се задачи за учителите; участие в подобряването на преподавателските практики; подпомагане на учителите при разработването на стратегия за преподаване; изготвяне на упражнения и подпомагане на оценяването; улесняване на наблюдението на обучението на учителите чрез предоставяне на обобщение на резултатите на учениците в техния клас.
CNIL предупреждава и за опасности, свързани с използването на системи с AI в образованието, като обосновава необходимостта от регулация, тъй като засяга ученици, които са предимно непълнолетни и по-уязвими към цифрови рискове. Сред предизвикателствата са прекомерната зависимост от тези технологии сред учениците, което може например да насърчи търсенето на готови отговори, вместо разсъждения или критично мислене; загубата на поверителност чрез изтичане на данни или прекомерно предаване на данни към система с генеративен изкуствен интелект; прекомерно доверие в тези технологии. В това отношение генеративните модели не са бази от знания и генерират само резултата, който е статистически най-вероятен, предвид данните, върху които са били обучени. Въпреки че използването им може да бъде внимателно регулирано, тези системи могат да генерират неточни резултати, които въпреки това могат да изглеждат правдоподобни; затваряне в образователен „балон“, ограничавайки съдържанието само до интересите на ученика.
CNIL отбелязва и ефектите върху цялата образователна екосистема – технологиите с изкуствен интелект могат да повлияят и на учителите, институциите и цялата образователна екосистема чрез насърчаване на прекалено стандартизиран подход към преподаването и оценяването, при който уменията и представянето на учениците се свеждат до количествени мерки. В тази връзка използването на системи с изкуствен интелект може да доведе до намаляване на социалните взаимодействия с учителя и с други ученици или до липса на отчетност (както на учителите, така и на учениците); чрез тривиализиране на движението на лични данни, свързани с методите и резултатите от обучението на ученици (най-често непълнолетни) извън образователната сфера, между дигитални играчи от всякакъв мащаб – и всъщност извън всякаква информация и всяко свободно и информирано съгласие на съответните лица; чрез акцентиране върху неравенствата в достъпа и използването на система с изкуствен интелект. Не всички ученици имат достъп до едни и същи знания и еднаква наличност на цифрови инструменти у дома.
CNIL дава конкретни препоръки за учители и администратори на лични данни. За да подпомогне учителите и училищните ръководители при интегрирането на изкуствения интелект в училищата, CNIL предоставя два модула ЧЗВ:
• Често задавани въпроси за учители, фокусирани върху конкретни образователни приложения, добри практики и предпазни мерки, които трябва да се вземат в класната стая;
• Често задавани въпроси за администратори на лични данни (ръководители на институции, министерства, академични власти), фокусирани върху правните задължения и условията за съответствие.
Тези ресурси предоставят основни насоки и съвети, които трябва да се вземат предвид преди използването на система с изкуствен интелект за образователни цели, започвайки с избора на инструмент, разбирането как работи и неговата конфигурация. CNIL също напомня, че е важно в този тип дискусия да се включи длъжностно лице по защита на данните.
Тези добри практики позволяват използването на изкуствен интелект да се вгради в етична, прозрачна образователна рамка, която зачита правата на хората, особено на непълнолетните.
Отвъд педагогическите и правните аспекти, въвеждането на AI в образованието трябва да бъде част от по-цялостен подход. Системите с AI не са неутрални: тяхното разработване и използване включват етични, социални и екологични въпроси, които заинтересованите страни в образованието също трябва да вземат предвид.