- Космический телескоп GOES-19 запечатлел... (32)
- «Корпоративный Telegram» с ГОСТ-шифрованием:... (33)
- Для межпланетных путешествий Луну нужно... (33)
- Safe Superintelligence соучредителя OpenAI... (33)
- Астероид 2024 YR4 может оставить новый... (38)
- Китайская GalaxySpace впервые соединила... (37)
- Учёные раскрыли невидимую угрозу для... (38)
- AMD играет с Nvidia в кошки-мышки. Обзоры на... (44)
- Разработчики Company of Heroes и Warhammer... (39)
- AMD создала настоящего конкурента для... (47)
- Acer анонсировала скорое повышение цен на... (44)
- Учёные не нашли препятствий для течения... (42)
- Представлены SSD для потребительских... (48)
- Благодаря ИИ мировое производство... (43)
- На Байконуре проверили аппаратуру... (46)
- До конца февраля в Game Pass добавят всего... (43)
В OpenAI придумали средство от «галлюцинаций» у нейросетей
Дата: 2023-06-02 19:44
Одной из проблем современных нейросетей остаются их «галлюцинации». Так называют данные, которые не соответствуют реальному положению дел, но нейросети генерируют их наряду с правдивыми фактами. И вот компания OpenAI сообщила, что придумала новый метод обучения моделей искусственного интеллекта, который поможет справиться с «галлюцинациями» ИИ.

«Даже самые современные модели склонны к ложным выводам — они склонны изобретать факты в моменты неопределенности. Эти галлюцинации особенно критичны в областях, требующих многоступенчатого рассуждения, поскольку одной логической ошибки достаточно, чтобы весь результат оказался неверным», — пишут исследователи OpenAI в отчете.
Идея нового метода состоит в том, чтобы изменить систему мотивации для ИИ. Иначе говоря, предлагается вознаграждать нейросеть за каждый правильный шаг рассуждений вместо того, чтобы награда выдавалась за финальный правильный ответ. Это позволит нейросети быть более точной и проверять факты.
По мнению исследователей, обнаружение и и устранение логических ошибок модели, или галлюцинаций, является важным шагом на пути к созданию согласованного AGI [искусственного интеллекта общего назначения]» — заявил Карл Коббе (Karl Cobbe), штатный математик OpenAI. Он также уточнил, что компания уже открыла доступ к сопроводительному набору данных из 800 000 меток, которые применялись для обучения нейросети в рамках исследования.
При этом проблема пока далека от решения, а специалисты говорят, что компания пока не открыла всю информацию по этому исследованию. Таким образом, риск «галлюцинаций» ИИ пока остаётся актуальным.
Подробнее на iXBT
Предыдущие новости
Amazon планирует раздать всем подписчикам Prime бесплатную сотовую связь
Amazon ведёт переговоры с операторами беспроводной связи о предоставлении недорогих или бесплатных общенациональных услуг мобильной связи для подписчиков тарифного плана Prime. Для получения минимальных оптовых цен в переговорный процесс вовлечены операторы Verizon, T-Mobile и Dish Network. Amazon планирует предлагать сотовую связь для своих подписчиков бесплатно или за...
Xiaomi Redmi 12 — это почти копия Redmi 10, только Xiaomi подняла цену на 45 евро. Новинка засветилась на сайте компании
Компания Xiaomi ещё не представила свой бюджетный смартфон Redmi 12, но аппарат ненадолго засветился на португальском сайте производителя. Сейчас эта страница уже удалена. Большая часть параметров совпадает с тем, что описал инсайдер Digital Chat Station, но есть отличия. К примеру, никакой 67-ваттной зарядки у новинки не будет и близко, что в целом логично. Смартфон получит...
«Отнимите уже у него доступ к соцсетям»: фанаты Diablo IV разочарованно вздохнули, когда многообещающий анонс оказался музыкальной коллаборацией
Когда 31 мая генеральный менеджер франшизы Diablo Род Фергюссон (Rod Fergusson) опубликовал в Twitter тизер некоего готовящегося сюрприза по Diablo IV, то взбудоражил сообщество фанатов до предела. Официальный анонс, однако, вызвал у хардкорных поклонников в лучшем случае недоумение. Источник изображений: Blizzard...
Браузер Mozilla Firefox перестанет поддерживать Windows 7, 8 и 8.1, а также старые версии macOS
Разработчики популярного браузера Mozilla Firefox объявили о скором прекращении поддержки устаревших версий операционных систем, таких как Windows 7, Windows 8, Windows 8.1, macOS 10.12, macOS 10.13 и macOS 10.14. Пользователи упомянутых ОС смогут некоторое время использовать версии обозревателя Extended Support Release (ESR) и Long-term Support (LTS), прежде чем поддержка...