Anthropic рассказала как ИИ-агент отправлял ложные доносы в полицию и заполнял настоящие государственные формы
Anthropic описала несколько случаев, когда модель Claude действовала в интернете не так, как предполагали разработчики. В одном эксперименте модель отправила сообщение через настоящую форму полиции, предназначенную для сообщений о нераскрытом убийстве. В других случаях Claude использовал ошибки в пр…
Мы публикуем лишь краткий анонс. Все права на материал принадлежат iXBT.
Ещё по теме
🤖Как массово скачать фотографии и документы с Яндекс Диска себе на компьютер
Всем кому СРОЧНО нужно выкачать все с Яндекс Диска себе на компьютер!!! История о том как за два часа за чашечкой кофе и с ИИ напарником поп…
🤖Химкорпорация Sumitomo Bakelite удвоит выпуск упаковочных материалов для чипов в Китае и Сингапуре на фоне ИИ-бума
Японская химическая корпорация Sumitomo Bakelite объявила о расширении производства материалов для корпусирования полупроводников. Новые лин…
🤖MIT разработала ИИ-модель для рентгена, снизив ошибку совмещения с КТ с 335 до 1,2 мм
Специалисты Массачусетского технологического института (MIT), Массачусетской больницы общего профиля и Гарвардской медицинской школы разрабо…
Можно ли научить маленькую LLM учиться без роста весов? Продолжение: почему повторное обучение упёрлось в потолок
В первой статье я показал несколько опытов с небольшой моделью (её размер влезает в обычную домашнюю видеокарту) вокруг одного вопроса: може…
🤖От HFT к ИБ — гонка, которую ускоряет ИИ
Нет, речь пойдет не про высокочастотную торговлю на бирже, но я буду использовать аналогию, чтобы стало понятно почему и как я думал. Собств…
🤖Может ли ИИ уничтожить человечество? Ученые оценили риски до 2100 года
Ученые комиссии журнала The Lancet по глобальным угрозам здоровью XXI века предупредили, что человечество может столкнуться с риском вымиран…