Guardrails для LLM: как устроена защита языковых моделей
Привет, Хабр! Я Антон, инженер по информационной безопасности в Selectel. Представьте новость: защиту GPT-6 Astra обошли обычным транслитом. Сегодня это звучит как фантастика, а вот ранние LLM ломались и на таком. Модель же не знает, кто перед ней — обычный пользователь или злоумышленник, поэтому ст…
Мы публикуем лишь краткий анонс. Все права на материал принадлежат Хабр — ИИ.
Ещё по теме
🤖В Rutube тестируют ИИ-помощника для авторов
Команда Rutube приступила к закрытому тестированию ИИ-помощника для авторов. Сервис в составе «Студии Rutube» должен объединить инструменты…
![[Перевод] Где сломался AI-агент? Как отлаживать многоэтапные воркфлоу по шагам](https://habrastorage.org/getpro/habr/upload_files/6b0/dbe/e84/6b0dbee84aec97dcf85fe95bd44282e2.jpg)
🤖[Перевод] Где сломался AI-агент? Как отлаживать многоэтапные воркфлоу по шагам
Многоэтапный AI-агент может выдать убедительный ответ, хотя ошибка произошла ещё в начале расследования. Найти её по итоговому результату не…
🤖FalangFlow: новый конструктор бизнес процессов с открытым кодом
Я здесь уже рассказывал про Falang (friendly algorithmic language) - универсальное решение для построения блок схем. Тогда у меня было неско…
FRIDA Decisions: быстро думать на русском
FRIDA Decisions — открытая модель быстрого мышления для русского языка. Она выбирает вариант из списка, ставит оценку по шкале, отвечает «да…
🤖Лабораторная работа №4
Что произойдет, если AI-программист будет получать контекст не из собственного чата, а из функциональной и архитектурной модели проекта?ERP…
🤖ChatGPT научился создавать интерфейс под каждый запрос налету
OpenAI завезли очень красивую фичу Intelligent UI. GPT‑6 теперь собирает прямо в диалоге интерактивные интерфейсы с кнопками, формами, графи…