Anthropic представил «конституции» ответственного ИИ
В настоящее время создание чат-ботов вроде ChatGPT зависит от модераторов, которые оценивают выдачу по таким вещам, как разжигание ненависти или токсичность. Затем система использует эти данные для настройки своих ответов. Этот процесс известен как «обучение с подкреплением на основе обратной связи с человеком» (RLHF).
Однако с «конституционным ИИ» эта работа в основном управляется самим чат-ботом, заявили разработчики.
Похожие новости
- 8 Май, 09:32
Белый дом внедрит «ответственный» ИИ в госучреждения
Американское правительство запросит у общественности рекомендации относительно своих планов по использованию ИИ в государственных учреждениях. Об этом объявило Административно-бюджетное управление при администрации президента США.
«ИИ — одна и...
Cегодня
-
16:41 В Standard Chartered заявили о десятикратном потенциале роста сегмента стейблкоинов
-
14:50 Соучредитель Ethereum перевел 20 000 ETH на Kraken
-
14:36 Капитализация стейблкоинов достигла рекордных $191,5 млрд
-
14:00 Хабиб Нурмагомедов поддержал высмеивающий Конора Магрегора мемтокен
-
13:43 Зафиксирован рекордный объем месячных торгов Uniswap на L2, несмотря на уменьшение спроса на DeFi
-
13:16 RevBit сократил время обмена криптовалют до двух минут
-
12:55 Tether расширит кредитование сырьевых компаний до $5 млрд
-
12:53 Solana Meetup: Pible и Open Source Fun приглашают вас на предновогоднюю встречу криптосообщества
