Perplexity представляет онлайн-программы LLM с информацией в реальном времени

Стартап Perplexity из Сан-Франциско представил две новые онлайн-модели больших языков (LLM): pplx-7b-online и pplx-70b-online.

Эти онлайн-курсы LLM направлены на преодоление ключевых ограничений многих существующих LLM: неспособность предоставлять актуальную информацию и склонность к галлюцинациям неточных фактов.

Что такое онлайн-LLM?

Онлайн-преподаватели LLM Perplexity могут использовать самую свежую информацию из Интернета для генерации ответов, что делает их уникальными способными отвечать на запросы, которые зависят от недавних событий или данных.

Например, модели могут сообщать о последних спортивных результатах, курсах акций или последних событиях в новостях Google.

Такое заземление в реальном времени контрастирует с автономными LLM, такими как GPT-3.5 , которые полагаются исключительно на данные обучения, которые постепенно устаревают.

Кроме того, Perplexity использует различные методы для максимизации фактической точности и минимизации генерации ложной информации.

Модели PPLX основаны на моделях Mistral-7B и llama2-70B с открытым исходным кодом и были специально доработаны Perplexity на разнообразных высококачественных наборах данных для оптимизации для обеспечения полезности и достоверности.

"Наша собственная инфраструктура поиска, индексирования и сканирования позволяет нам дополнять LLM наиболее актуальной и ценной информацией. Наш поисковый индекс большой, регулярно обновляется и использует сложные алгоритмы ранжирования, чтобы обеспечить приоритетность высококачественных сайтов без SEO. Выдержки из веб-сайтов, которые мы называем «фрагментами», предоставляются нашим моделям pplx-online, чтобы обеспечить возможность ответа с самой актуальной информацией".

Чем модели PPLX отличаются от GPT 3.5?

Раннее тестирование, проведенное компанией, показывает, что онлайн-программы LLM Perplexity соответствуют или превосходят возможности ведущих собственных программ LLM, таких как GPT-3.5, по критериям, измеряющим надежность, полезность и знания по академическим предметам.

Способность моделей PPLX использовать самую свежую онлайн-информацию позволяет им предоставлять своевременные факты и данные в ответ на запросы.

Скриншот из Perplexity, ноябрь 2023 г.

Как онлайн-преподаватели LLM преодолевают проблемы с точностью

В документе под названием «FRESHLLMS: обновление больших языковых моделей с помощью расширения поисковых систем» выделены критические ограничения традиционных LLM.

Особое внимание было уделено борьбе за то, чтобы LLM оставалась в курсе постоянно развивающихся глобальных знаний и ее склонности давать фактически неточные ответы, известные как галлюцинации.

Новые онлайн-программы LLM Perplexity уникально оснащены для доступа и использования информации в режиме реального времени из Интернета, решая критическую проблему свежести и точности, с которой сталкивается большинство LLM с датой окончания срока действия знаний.

Модели PPLX демонстрируют заметное улучшение в борьбе с ограничениями актуальности и фактичности.

Заключение

Предоставляя доступ к новейшей информации и аналитическим данным из Интернета, модели Perplexity помогают уравнять правила игры между крупными технологическими фирмами и небольшими организациями, стремящимися извлечь выгоду из ИИ.

Учитывая перспективу дальнейшего повышения производительности, Perplexity предполагает новую парадигму поиска и обнаружения информации, основанную на диалоговых интерфейсах. Его онлайн-курсы LLM намекают на будущее, когда мы сможем задавать вопросы ИИ-помощнику так же, как человеку-эксперту, и получать своевременные, основанные на фактах и ​​подробные ответы.