Anthropic представил «конституции» ответственного ИИ

В настоящее время создание чат-ботов вроде ChatGPT зависит от модераторов, которые оценивают выдачу по таким вещам, как разжигание ненависти или токсичность. Затем система использует эти данные для настройки своих ответов. Этот процесс известен как «обучение с подкреплением на основе обратной связи с человеком» (RLHF).

Однако с «конституционным ИИ» эта работа в основном управляется самим чат-ботом, заявили разработчики.

• 19:38 НОвый перспективный токен от MyTonWallet
• 19:05 Разработчики Bitcoin планируют провести одно из самых крупных с 2021 года обновлений сети
• 17:20 Вестник институционала: Babylon привлек $70 млн, а Colendi — $65 млн
• 10:30 Worldcoin официально запущен в Колумбии
• 10:04 PointPay: Ваш Главный Помощник в Мире Криптоинвестирования
• 09:20 Бывший гендиректор Binance Чанпэн Чжао прибыл в тюрьму для отбытия срока
• 08:48 Майнеры готовятся к новой гонке вычислительных мощностей
• 08:31 Сообщество EOS снизило ограничение на количество монет в пять раз