Добро пожаловать на форум PHP программистов!
За последние 24 часа нас посетили 19094 программиста и 1635 роботов. Сейчас ищут 949 программистов ...
Последние
Популярные

В OpenAI придумали средство от «галлюцинаций» у нейросетей

Дата: 2023-06-02 19:44

Одной из проблем современных нейросетей остаются их «галлюцинации». Так называют данные, которые не соответствуют реальному положению дел, но нейросети генерируют их наряду с правдивыми фактами. И вот компания OpenAI сообщила, что придумала новый метод обучения моделей искусственного интеллекта, который поможет справиться с «галлюцинациями» ИИ.

Сгенерировано нейросетью Midjourney

«Даже самые современные модели склонны к ложным выводам — они склонны изобретать факты в моменты неопределенности. Эти галлюцинации особенно критичны в областях, требующих многоступенчатого рассуждения, поскольку одной логической ошибки достаточно, чтобы весь результат оказался неверным», — пишут исследователи OpenAI в отчете.

Идея нового метода состоит в том, чтобы изменить систему мотивации для ИИ. Иначе говоря, предлагается вознаграждать нейросеть за каждый правильный шаг рассуждений вместо того, чтобы награда выдавалась за финальный правильный ответ. Это позволит нейросети быть более точной и проверять факты.

По мнению исследователей, обнаружение и и устранение логических ошибок модели, или галлюцинаций, является важным шагом на пути к созданию согласованного AGI [искусственного интеллекта общего назначения]» — заявил Карл Коббе (Karl Cobbe), штатный математик OpenAI. Он также уточнил, что компания уже открыла доступ к сопроводительному набору данных из 800 000 меток, которые применялись для обучения нейросети в рамках исследования.

При этом проблема пока далека от решения, а специалисты говорят, что компания пока не открыла всю информацию по этому исследованию. Таким образом, риск «галлюцинаций» ИИ пока остаётся актуальным.



Подробнее на iXBT
 

Предыдущие новости

3Dnews.ru, 2023-06-02 19:31
Amazon планирует раздать всем подписчикам Prime бесплатную сотовую связь

Amazon ведёт переговоры с операторами беспроводной связи о предоставлении недорогих или бесплатных общенациональных услуг мобильной связи для подписчиков тарифного плана Prime. Для получения минимальных оптовых цен в переговорный процесс вовлечены операторы Verizon, T-Mobile и Dish Network. Amazon планирует предлагать сотовую связь для своих подписчиков бесплатно или за...

iXBT, 2023-06-02 19:16
Xiaomi Redmi 12 — это почти копия Redmi 10, только Xiaomi подняла цену на 45 евро. Новинка засветилась на сайте компании

Компания Xiaomi ещё не представила свой бюджетный смартфон Redmi 12, но аппарат ненадолго засветился на португальском сайте производителя. Сейчас эта страница уже удалена.  Большая часть параметров совпадает с тем, что описал инсайдер Digital Chat Station, но есть отличия. К примеру, никакой 67-ваттной зарядки у новинки не будет и близко, что в целом логично. Смартфон получит...

3Dnews.ru, 2023-06-02 18:58
«Отнимите уже у него доступ к соцсетям»: фанаты Diablo IV разочарованно вздохнули, когда многообещающий анонс оказался музыкальной коллаборацией

Когда 31 мая генеральный менеджер франшизы Diablo Род Фергюссон (Rod Fergusson) опубликовал в Twitter тизер некоего готовящегося сюрприза по Diablo IV, то взбудоражил сообщество фанатов до предела. Официальный анонс, однако, вызвал у хардкорных поклонников в лучшем случае недоумение. Источник изображений: Blizzard...

3Dnews.ru, 2023-06-02 18:58
Браузер Mozilla Firefox перестанет поддерживать Windows 7, 8 и 8.1, а также старые версии macOS

Разработчики популярного браузера Mozilla Firefox объявили о скором прекращении поддержки устаревших версий операционных систем, таких как Windows 7, Windows 8, Windows 8.1, macOS 10.12, macOS 10.13 и macOS 10.14. Пользователи упомянутых ОС смогут некоторое время использовать версии обозревателя Extended Support Release (ESR) и Long-term Support (LTS), прежде чем поддержка...

© 2025 «PHP.RU — Сообщество PHP-Программистов»
Главная | Форум | Реклама на сайте | Контакты VIP Сувениры
Разработка компании ODware