У образования были шаткие отношения с все еще развивающимся присутствием генеративного ИИ в школах — некоторые школьные округа запретили его только для того, чтобы изменить курс. Это может сэкономить время учителей за счет автоматизации задач, а также вызвать головную боль, будучи соучастником обмана учащихся.
Так сколько же работы потребуется, чтобы разработать рекомендации, которые помогут преподавателям справиться с проблемами использования инструментов генеративного ИИ в своей работе? В Мичигане это была командная работа.
Коалиция из 14 образовательных организаций, возглавляемая некоммерческим Мичиганским научно-исследовательским институтом виртуального обучения, ранее в этом месяце опубликовала образцы руководств, которые знакомят учителей и администраторов с потенциальными ловушками, которые следует учитывать, прежде чем использовать инструмент искусственного интеллекта в классе или для других задач. Сюда входят такие вещи, как проверка точности контента, сгенерированного ИИ, цитирование контента, сгенерированного ИИ, и определение того, какие типы данных безопасно вводить в программу ИИ.
Кен Диркин, старший директор Мичиганского научно-исследовательского института виртуального обучения, сказал, что группа хотела создать легко усваиваемый документ, но «вероятно, в него можно было бы включить 40 000 важных вещей».
«Когда мы выходим и работаем со школьными округами, мы испытываем общий недостаток знаний, интереса и осведомленности» о генеративном ИИ, — говорит Диркин, — «но также страх попасть в беду или страх что они делают что-то не так, потому что нет четких указаний о том, что им следует изучать или делать».
Диркин говорит, что группа хотела, чтобы документ помог школьным округам и преподавателям обдумать использование генеративного искусственного интеллекта, не прибегая к крайним мерам: его запрету или разрешению неограниченного использования.
«Это действительно был наш метод работы: как нам просто разрешить исследование, а не отключать доступ», — говорит он, — «или заставить людей говорить: «Это последняя тенденция, и она исчезнет».
Скорость, с которой развивается генеративный ИИ, делает это критически важным моментом для преподавателей и школьных округов, чтобы иметь инструкции о том, когда и как они его используют, говорит Марк Смит, исполнительный директор Мичиганской ассоциации пользователей компьютеров в обучении.
«ИИ повсюду. Он делает все для всех и каждого, кто заинтересован», — говорит он. «К тому времени, когда мы разберемся с одно-, трех-, пятилетним планом, он меняется прямо у нас под носом. Если мы не займемся этим сейчас, выработав ловкую, гибкую руководящую политику или стратегию в целом, ситуация будет продолжать меняться».
Защита данных учащихся
Директора школ хотят знать, как можно использовать ИИ в классе, помимо того, чтобы учащиеся копировали и вставляли его, говорит Пол Лиабенов, и, конечно же, обеспокоены тем, что ученики используют его для мошенничества.
Но многие вопросы, которые он получает в качестве исполнительного директора Мичиганской ассоциации директоров начальных и средних школ, сосредоточены на программах искусственного интеллекта и юридическом соблюдении законов о конфиденциальности учащихся, объясняет Лиабенов, и на том, как они соответствуют таким законам, как FERPA и Закон об образовании для лиц с ограниченными возможностями. .
«Еженедельно приходит множество вопросов, и их количество растет», — говорит Лиабенов. Директорам нужны рекомендации от таких организаций, как Michigan Virtual, «не только для того, чтобы не попасть в черную дыру в качестве лидера, но и для того, чтобы эффективно использовать их для улучшения успеваемости учащихся».
Руководящий документ по ИИ призывает преподавателей всегда исходить из того, что, если компания, владеющая инструментом генеративного ИИ, не имеет соглашения со своим школьным округом, данные, которые они вводят, будут доступны общественности.
Лиабенов говорит, что одна из его проблем конфиденциальности связана с любым учителем, консультантом или администратором, который может захотеть использовать программу искусственного интеллекта для управления данными учащихся о психическом здоровье или дисциплине — что может закончиться судебным иском.
«Люди думают, что смогут составлять сводные расписания с помощью инструментов искусственного интеллекта, в которых они вводят имена отдельных учеников, и это приводит к некоторым проблемам как с этической, так и с юридической точки зрения», — говорит Лиабенов. «Мне нравится этот инструмент руководства, потому что он напоминает нам об областях, к которым нам нужно быть внимательными и усердно защищать».
Смит из Мичиганской ассоциации пользователей компьютеров в обучении говорит, что проблемы конфиденциальности заключаются не в повседневном использовании генеративного искусственного интеллекта, а в растущем числе приложений, которые могут иметь слабую политику защиты данных — одно из соглашений, которое практически никто не выполняет. читается при регистрации в онлайн-сервисе. Он добавляет, что, возможно, легче нарушить законы о конфиденциальности, учитывая предлагаемые изменения, направленные на усиление Закона о защите конфиденциальности детей в Интернете.
«Кто из нас загрузил обновленное соглашение на свой iPhone, не читая его?» Смит говорит. «Если вы увеличите это число до 10 000 учащихся в округе, вы можете себе представить, сколько соглашений с конечными пользователями вам придется прочитать».
Является ли ИИ вашим соавтором?
Необходимо учитывать не только использование ИИ студентами. Учителя используют генеративный искусственный интеллект для создания планов уроков, и любой сотрудник школьного округа может использовать его для написания рабочего документа.
Вот почему новые рекомендации включают примеры того, как цитировать использование генеративного ИИ в учебных материалах, исследованиях или рабочих документах.
«Чем больше мы раскрываем использование ИИ и его цели, тем больше мы воодушевляем всех участников разговора», — говорит Диркин. «Я не думаю, что через два или три года люди будут раскрывать информацию об использовании ИИ — он будет в наших рабочих процессах — но важно учиться друг у друга и связать это с участием человека в этом процессе. Со временем это пройдет».
Когда ИИ встроен во все
Генеративный ИИ все чаще интегрируется в программное обеспечение, которое уже широко используется. Вспомните программы проверки правописания, такие как Grammarly, которые, по словам студентки из Джорджии, обвинили ее в списывании после того, как работа, в которой она ее использовала, была помечена программным обеспечением для обнаружения ИИ.
По словам Диркина, растущая повсеместность облегчит доступ к образовательным инструментам на базе искусственного интеллекта и, следовательно, усложнит их использование с учетом требований безопасности. Одним из важных соображений относительно нынешнего ландшафта генеративного ИИ является то, что людям по-прежнему приходится копировать и вставлять контент в программу ИИ — и, следовательно, останавливаться на мгновение — чтобы использовать его.
«Часто это Дикий Запад с точки зрения доступа к инструментам. У каждого есть учетная запись Google, и люди могут использовать ее для входа в множество бесплатных сервисов», — говорит Диркин. «Мы хотели убедиться, что у людей есть инструмент, позволяющий задуматься о том, используют ли они его с юридической или этической точки зрения. [way]или если они нарушают какую-то политику, прежде чем сделать это. Так что просто остановись и подумай».
Смит указывает на раздел новых рекомендаций, в котором преподавателям предлагается подумать о том, как что-то, созданное ИИ, может быть неточным или содержать предвзятость. По его словам, даже несмотря на то, что генеративный ИИ становится все лучше, «существуют риски и ограничения для любого ИИ, независимо от того, насколько он хорош».
«Иногда лучшим набором данных для преподавателя является учитель с 10-летним стажем, а не инструмент искусственного интеллекта», — говорит Смит. «В этом все еще есть человеческий элемент, и я думаю, что руководящий документ, в котором упоминаются эти риски и ограничения, является своего рода дружеским подталкиванием. Это вежливый способ сказать: «Эй, не забудь об этом».