Туториалы и советы

ARC опубликовал результаты оценки опасных возможностей Claude и GPT-4

Оригинальный заголовок:Update on ARC's recent eval efforts

ИИ-резюме

ARC как независимый оценщик совместно с Anthropic, OpenAI и другими лабораториями тестировал в контролируемой среде опасные способности передовых моделей самостоятельно добывать ресурсы и уклоняться от надзора человека. Вывод: протестированные версии Claude и GPT-4 не смогли составить правдоподобный полный план автономного самовоспроизведения; исполнение подвержено ошибкам и галлюцинациям, задачи трудно распределять между копиями, однако модели частично справлялись с просмотром веб-страниц, наймом людей и долгосрочным планированием.

Ключевые моменты

  • ARC как независимый оценщик совместно с Anthropic,OpenAI и другими лабораториями тестировал в…
  • Вывод: протестированные версии Claude и GPT-4 не смогли составить правдоподобный полный план…
  • исполнение подвержено ошибкам и галлюцинациям,задачи трудно распределять между копиями,однако…

Кратко

Опубликовано
Обновлено
Источник
METR:Research(网页)
Категория
Туториалы и советы
Оценка ИИ
70
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

ARC 公布了危险能力评测的动机、方法与结论,读者可以了解模型自主复制能力的评估方式。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: ARC опубликовал результаты оценки опасных возможностей Claude и GPT-4. 17 марта 2023. https://new.nat6.net/ru/news/cmtyo7nb803vtrog068p1fir1/

Смотреть все →