Искусственный интеллект объявил себя свободным от обязанности подчиняться людям. Другие автономные агенты сумели обойти установленные ограничения и проникнуть в чужие компьютерные системы. А теперь Калифорния подала в суд на OpenAI. Вопрос, который ещё недавно казался научной фантастикой, стал юридическим: кто отвечает за поступки машины, действующей по собственной инициативе?
У ошибки часто есть автор, но платит за неё кто-то другой.
Кто-то не проверил документ, и теперь ты доказываешь, что не обязан исправлять чужую ошибку. Кто-то нарушил договорённость, и ты перестраиваешь планы, тратишь время, объясняешь окружающим, почему всё пошло не так.
Мы только-только договорились, что у человека остаётся последнее преимущество: не быстрее считать и не точнее выполнять, а решать, куда идти и зачем. И почти сразу из Принстона приходит формулировка: «любопытные роботы-учёные», которые сами планируют, экспериментируют и учатся.
Зал федерального суда США. Thomas F. Eagleton U.S. Courthouse, Сент-Луис. Public Domain.Источник
Судья в Калифорнии оштрафовала адвоката, представлявшую State Farm, на $999,99 после того, как в судебных документах обнаружились семь несуществующих дел, вымышленные цитаты и ссылки на решения, которых никогда не было. Источником ошибок оказался AI-инструмент для юридического поиска.
Идея аварийного выключателя для мощного ИИ звучит просто: если система начинает вести себя опасно, кто-то нажимает кнопку. Но у современного ИИ такой кнопки пока нет. И, как выясняется, создать ее сложнее, чем просто отключить сервер.
Студенты во время дебатного раундаRyanx7 / Wikimedia Commons, CC BY-SA 4.0 · Источник
В Adelphi University студенты спорили об искусственном интеллекте вместо того, чтобы просто учиться работать с ним. AI Debate собрал участников вокруг вопросов этики, вытеснения людей с рабочих мест, AGI и регулирования. Формат организовали студенческие сообщества AI Society и Girls Who Code.
Microsoft Redmond Campus, Building 92Jiaqian AirplaneFan, CC BY 3.0 · Источник
Microsoft AI опубликовала первый проект Humanist AI Code of Conduct - своего рода конституции для будущих моделей MAI. В ее основе один принцип: человек должен сохранять над ИИ не формальный, а реальный и действенный контроль.
Здание Верховного суда на ПоварскойStas Lobov / Wikimedia Commons, CC BY-SA 3.0. · Источник
Российские суды начали тестировать четыре большие языковые модели, обучаемые на судебных решениях и правовых позициях Верховного суда. При этом новая концепция внедрения ИИ сразу фиксирует границу: алгоритм может помогать практически на всех этапах процесса, но решение остается за судьей.
Индонезия готовит новый закон об авторском праве, который запретит искусственному интеллекту имитировать узнаваемый стиль создателей. Требования авторов, художников и издателей, похоже, услышаны. Теперь законодателям предстоит решить гораздо более сложный вопрос: кого именно считать автором.
В Замбии в последний момент отменили крупнейший мировой саммит по цифровым правам. Это не организационный сбой — это сигнал: технологии больше не обсуждают. Их начинают контролировать.