Другое

Обновление Circuits — апрель 2025

Оригинальный заголовок:Circuits Updates — April 2025

ИИ-резюме

Команда интерпретируемости Anthropic поделилась результатами за апрель 2025 года, сосредоточившись на неудачной попытке джейлбрейка. Применив трассировку схем к той же модели, команда обнаружила, что причина отказа от этой попытки отличается от базовой причины отказа от прямых вредных запросов, описанной в статье. Модель, похоже, чаще отклоняет специально сконструированный джейлбрейк-запрос. Анализ также показал, что из-за слишком узкого распределения примеров визуализация признаков может вводить в заблуждение, что подчёркивает важность разнообразных данных. Эти выводы получены в предварительных экспериментах и не являются заключением зрелой статьи.

Ключевые моменты

  • Команда интерпретируемости Anthropic поделилась результатами за апрель 2025 года,сосредоточившись…
  • Применив трассировку схем к той же модели,команда обнаружила,что причина отказа от этой попытки…
  • Модель,похоже,чаще отклоняет специально сконструированный джейлбрейк-запрос.
  • Анализ также показал,что из-за слишком узкого распределения примеров визуализация признаков может…
  • Эти выводы получены в предварительных экспериментах и не являются заключением зрелой статьи.

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Transformer Circuits(可解释性研究)
Категория
Другое
Оценка ИИ
80
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

可解释性研究揭示越狱内部机制,助力AI安全与模型理解。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Обновление Circuits — апрель 2025. 15 апреля 2025. https://new.nat6.net/ru/news/cmoegbh73006mslxxbggdsnmi/

Смотреть все →