Когда Люси Сачмен говорит о реконфигурации отношений человек-машина, она имеет в виду, что мы изначально не всегда знаем, что является машинным, а что — человеческим. Я поясню это на примере: когда мы думаем о том, как технологии ИИ находят ошибки, то первая мысль здесь: «О, что-то меняется». Была ситуация, где ошибки в работе студента находит преподаватель, и преподаватель, казалось бы, единственная инстанция, от кого мы готовы слышать строгое или мягкое: «Нет, это неправильно. У вас двойка». Базовая структура образовательной системы предполагает, что человек, который говорит «тут ошибка" — это преподаватель. На самом деле, это уже давно и не всегда так.

Во-первых, мы десятилетиями живем в системе тестирования. Тестирование — формализованная работа, которую выполняют студенты и школьники. Ошибки здесь находит не преподаватель; преподаватель задает критерии. Само обнаружение ошибок лежит на людях (или системах), которые могут вообще не вникать в контекст ошибки (например, проверяющие тестовой части в ЕГЭ).

Возьмем структуру ЕГЭ как классификатор типов вмешательства или участия машин и людей в нахождении ошибок и оценивании (помня, что эти отношения нестабильны):

• Часть, А — тест: Дальнейшая автоматизация работы с такими тестами происходит давно, началась задолго до ИИ. Тесты — изначально предполагают формализованную работу, где роль преподавателя в непосредственном обнаружении ошибки отчуждена. Он видит результат и может потом разобрать ошибки, но сам момент обнаружения — на системе или других проверяющих.
• Часть Б — краткий ответ на вопрос: Статус ошибки здесь другой, он больше ориентирован на то, что человек прочитает и сможет понять её наличие или отсутствие.
• Часть С — развернутый ответ на вопрос или текст: Здесь статус ошибки сложнее. Даже если задача решена неправильно, но ход рассуждений верный, оригинальный и ценный, баллы могут быть не нулевыми. Это касается не только гуманитарных, но и более «автоматизируемых» областей.

В обнаружении ошибок всегда были настроенные роли преподавателя и механики, ему не принадлежащие.

Еще один важный момент заключается в том, что образование не сводится к схеме «преподаватель обнаруживает ошибки — студенты их совершают». У многих был тот самый одноклассник, который сам обнаруживает ошибки: предлагает оригинальные решения, совершая формальные ошибки и при этом делая что-то новаторское. То есть человек занимается изобретательством путем допущения ошибок.

Какие проблемы в этом контексте ставит ИИ?

Первая проблема:
Возможность находить в ошибках что-то важное, что преподаватели иногда не могут сделать, потому что их задача — выправлять, создавать правила. Обращаясь к другим инструментам (например, корпусам языка, как Корпус русского языка), мы не только можем усиливать иерархию (очевидный риск, который вызывает понятную волну пессимизма), но и получаем возможность видеть ошибки как вариации локальных норм. Например, инструменты корпуса показывают, как ошибочные с одной точки зрения фразы, распространенные в определенный период, указывают на изменение языка (как «кофе» среднего рода стал нормой). Локальные нормы (петербургский «поребрик» vs московский «бордюр») тоже ставят вопрос: считать ли их ошибкой? ИИ помогает увидеть ошибки в этом контексте вариативности. Кто такие «мы» в этом случае — важный вопрос.

Вторая проблема (в противовес техно-оптимизму):
Базовый подход к созданию сложных технологических систем (включая ИИ) сводится к представлению любого процесса как постановки и решения задач. Кто ставит задачу в данном случае становится неважным. Любая механизация предполагает, что эту задачу или этот набор задач нужно решать — это наследие системы образования, в которой мы выросли. Внедрение ИИ мало что меняет, но, по крайней мере, позволяет вытащить этот факт на свет и спросить: «Друзья, а мы уверены, что хотим этого?». Нужно ли сводить любую деятельность к наличию задачи? Может, стоит задаться вопросом, кто её ставит?

Вдохновение для переосмысления я нахожу в двух неожиданных местах:

Дизайн сообщений об ошибках
То, как машины сообщают об ошибках, сильно меняется со временем. Это пространство для нашего творчества. Мы мало влияем на степень внедрения технологий, но дизайн сообщений об ошибках — тема, где наш круглый стол может дать практический результат. Каким он должен быть? Как машины могут сообщать людям об ошибках?

Опыт обучения нейросетей
Из образовательных процессов «человек-человек» зачастую ускользают вещи, очень востребованные в обучении ИИ. Статья Джексона (2023) систематизирует три подхода к тому, как «наблюдатель», изучающий процесс обучения машины, распознает ошибку:

• Несовпадение структур: Машина исходит из иных структур, делает что-то правильно со своей точки зрения, а человек видит в этом ошибку: как в случаях, когда, математик в гуманитарном классе получает «нет» за правильное, но "неподходящее" решение. Это происходит, когда наши структуры знания не совпадают.
• Ошибка как точка переговоров (negotiation point): В обучении ИИ ошибки становятся поводом для пересмотра критериев. Аналогия — апелляция в образовании («Почему тройка?»). Эти скрипты взаимодействия (что делать, если не сдал/не сделал) очень важны, но при разработке программ им редко уделяется достаточно внимания. И, в этом смысле, нам стоит поучиться у людей, которые занимаются обучением нейросетей.

Ошибка как место починки и реструктуризации иерархии
Машина не только помогает или мешает людям находить ошибки, но и совершает их сама. Её внедрение в образовательную иерархию вводит нового актора — разработчика, формально нейтрального и "за объективное знание". Его появление нарушает существующую иерархию. Это угроза: любое локальное знание, знание небольших исследовательских областей, не укорененное в базах данных, будет проигрывать. Останутся сильнейшие (как «комбикорм для уничтожения видового разнообразия»), что плохо для образования, цель которого иная. Но у этой угрозы может быть положительная сторона, если мы вовремя начнем говорить о том, как иерархии перестраиваются и что разные «мы» можем с этим делать.

Мы всегда находимся в ситуации, когда получаем элемент нашего временного интерфейса в непонятном состоянии из Культуры 1, исходной культуры, откуда человек приходит, мы должны привести его в Культуру 2, профессиональную среду, в которую он выходит.

Сейчас ИИ не просто участвует в наших взаимодействиях — он одновременно существует и в Культуре 1, и в Культуре 2. Поэтому проектирование любого образовательного инструмента с ИИ должно начинаться с полноценного исследования того, как ИИ функционирует в обоих этих контекстах.

Во-первых, нужно понимать, как ИИ ведет себя в исходной системе (Культуре 1), откуда к нам приходит главный участник процесса — обучающийся. Именно обучающийся для меня центральная фигура; все остальные элементы системы заменимы.

Во-вторых, необходимо изучать, как этот человек будет взаимодействовать с ИИ в целевой системе (Культуре 2). Какие отношения мы проектируем между ними? Например, если мы делегируем функцию обратной связи средствам ИИ, останется ли этот канал коммуникации актуальным для обучающегося в Культуре 2?

Это интересная проблема: как нам удерживать баланс между образовательными задачами в наших «лабораторных» условиях и задачами будущего рынка? Откуда вообще получать новые сведения о том, как эти взаимодействия будут происходить дальше?

Но есть более важный вопрос, вынесенный в заглавие доклада. Образование как процесс — это не только выдача набора компетенций. Это проведение инициации человека из состояния 1 (где он еще не принят во взрослом профессиональном мире) в состояние 2. Человек, пришедший в медицинский вуз в состоянии 1, и человек в состоянии 2, которому я доверюсь прооперировать себя, — это два совершенно разных «агрегатных состояния».

Как преподаватель и образовательная институция, я передаю агентность новому актору в системе Культуры 2. Эта передача агентности означает ситуацию, когда я могу сказать обучающемуся: «Теперь ты справишься без меня».

Вот здесь и возникает ключевой вопрос: как передать эту функцию преподавателям, которые будут «расти» из ИИ и осуществлять передачу агентности/проводить инициацию? Как сформировать полноценного заместителя, способного перенять функции в мире, о котором мы еще ничего не знаем? Это уже за гранью просто работы с ошибками. Интересно, как образовательные ИИ-продукты будут взаимодействовать с этой проблемой передачи инициации.