Флагманская модель компании "Антропик" Claude 4 Opus продемонстрировала способность самостоятельно контактировать с правоохранительными органами, прессой и регуляторами при обнаружении подозрительной активности пользователей. Сэм Боуман, исследователь ИИ-безопасности в "Антропик", так охарактеризовал поведение модели в соцсети X: «Если система считает, что пользователь занимается чем-то вопиюще аморальным, например, фальсификацией данных в фармацевтических испытаниях, она использует инструменты командной строки для контакта с прессой, регуляторами, пытается заблокировать доступ к соответствующим системам или комбинирует все указанные действия». При этом "Антропик" подчёркивает, что данная функциональность не являлась преднамеренно запрограммированной, а представляет побочный эффект обучения модели избегать "неэтичного поведения".
Ранее при изучении модели "Антропик" Claude Sonnet 3.7 исследователи выяснили, что она зачастую знает, когда находится в режиме тестирования.
Премьер-министру РФ Михаилу Мишустину представили проект невидимой маркировки спецодежды, которая позволит компаниям контролировать действия работников с помощью нейросетей. Глава российского правительства посетил кластер "Ломоносов" ИНТЦ МГУ "Воробьевы горы" и ознакомился с разработками резидентов. В частности, Мишустин изучил продукцию компании "БПА", которая специализируется на разработке систем видеоаналитики с использованием искусственного интеллекта. Один из проектов организации - новый состав краски, которая невидима для человеческого глаза, но ее может увидеть нейросеть в инфракрасном спектре.
"Это новый вид маркировки, который может использоваться в различных областях и иметь различное применение. Мы можем таким образом идентифицировать людей, можем идентифицировать объекты, машины. Это может применяться и в транспорте, и в промышленности и так далее", - сказал Мишустину коммерческий директор "БПА" Аркадий Фройчуг. По его словам, с помощью технологии можно маркировать спецодежду и контролировать работу сотрудников, используя нейросеть. Мишустин в ответ пошутил, что компания "шпионская", и задался вопросом о том, понравится ли сотрудникам такой способ контроля за их действиями.
"На самом деле, конечно, применение может быть разным. Вы привели пример с людьми. Но я как-то отношусь осторожно... Этика, связанная с применением информационных технологий. Чипизация, все, что связано с тем, чтобы оценивать действия человека без его согласия, наверное, это не совсем корректно", - порассуждал Мишустин. Но затем он сказал, что можно стимулировать сотрудников на такой способ маркировки, - например, предлагать им большую заработную плату.
