На этой неделе Южная Корея представила исторические законы по регулированию искусственного интеллекта, пообещав бережно довести национальные алгоритмы до «совершеннолетия» и не позволять им советовать опасные лайфхаки, признаваться в романтических чувствах ничего не подозревающим пользователям или изобретать новые криптовалюты в рабочие часы. Чиновники назвали шаг «взвешенной реакцией» на хаотичный пыл машинного обучения — сродни установке лежачих полицейских на трассе, где ездят беспилотники и чрезвычайно уверенные в себе чат-боты. Новые стандарты, добавили они, гарантируют, что ИИ останется инновационным, но только способами, которые тщательно задокументированы, заламинированы и сданы в трёх экземплярах.
По правилам компании должны маркировать контент, созданный ИИ, с тем же пылом, с каким производитель снеков перечисляет аллергены, вести подробные журналы «объяснимости», описывающие не только то, что сделала модель, но и что она по этому поводу чувствовала, а также оснащать системы легко доступной кнопкой выключения — предпочтительно большой и красной — где-нибудь на видном месте, скажем, рядом с кофемашиной. Регуляторы говорят, что это предотвратит «неожиданные результаты», под которыми здесь понимается всё — от неверной классификации фотографии до запуска хардверного стартапа посреди звонка в службу поддержки. Для более рискованных моделей квартальные проверки самочувствия и внезапные тесты по этике должны гарантировать, что нейросети остаются вежливыми, скромными и лицензированными.
Стартапы тем временем предупредили, что соблюдение требований может превратиться в хобби на полный рабочий день. Основатели рассказали, что нанимают целые отделы, чья задача — в мельчайших деталях объяснять инженерам, что их амбиции будут разрешены после заполнения анкеты из 72 вопросов, трёх учебных тревог по безопасности и торжественной клятвы никогда не позволять градиентному спуску увлекаться чрезмерно. Некоторые предприниматели опасаются, что их финансовый запас прочности теперь будет измеряться аудитами, а не месяцами, а инвесторы переключатся на бурно растущий рынок «ИИ, который ответственен в инновациях, объясняя, как именно он бы их создавал, если бы ему это позволили».
Чиновники настаивают, что эта рамка сделает Южную Корею мировым лидером в надёжном ИИ — настолько безопасном, что он сможет нянчить детей, репетиторствовать и вежливо отказываться отвечать на любой вопрос, который сочтёт чрезмерно провокационным. Соседние страны внимательно наблюдают, ожидая, будут ли машины соблюдать комендантский час и можно ли планировать креатив между семинарами по комплаенсу. Пока же гражданам обещают, что они могут спать спокойно, зная: самые продвинутые алгоритмы страны не могут выйти из дома, сочинить стихотворение или основать стартап без разрешения с печатью «Одобрено. Ожидается дальнейшее утверждение».