FreeAskInternet — это бесплатный инструмент с открытым исходным кодом, который объединяет несколько продвинутых языковых моделей для предоставления услуг поиска и генерации ответов.

Мы можем напрямую установить и запустить его локально; это скорее агрегатор поиска для различных больших языковых моделей.

Согласно описанию открытого исходного кода, FreeAskInternet использует большие языковые модели (LLM) для генерации ответов, не полагаясь на графический процессор (GPU). После того как пользователь задаёт вопрос, система использует SearXNG для выполнения поиска по нескольким поисковым системам, объединяет результаты поиска с языковой моделью ChatGPT3.5 и генерирует ответы на основе этих результатов поиска. Все процессы выполняются локально и не требуют GPU или API-ключей от OpenAI или Google.

SearXNG — это бесплатная интернет-метапоисковая система, которая агрегирует результаты из различных поисковых сервисов и баз данных. Адрес открытого исходного кода: https://github.com/searxng/searxng.

Домашняя страница по-прежнему очень минималистична:

Чат-интерфейс ИИ на основе поиска:

Поддерживает несколько больших языковых моделей и пользовательские большие языковые модели (например, ollama):

Подводя итог, FreeAskInternet имеет следующие особенности:

• Бесплатный и с открытым исходным кодом — мы можем установить его локально самостоятельно.
• Он использует API от ChatGPT3.5, Qwen, Kimi, Zhipu AI и т. д. Пользователям не нужно иметь API-ключи для них, чтобы использовать их.
• Поскольку он использует бесплатные API, в отличие от больших языковых моделей, которым обычно требуется GPU для работы, FreeAskInternet может работать без GPU, снижая требования к аппаратному обеспечению для пользователей.
• Мы также можем настроить большую языковую модель, например ollama (адрес загрузки: https://ollama.com/), что предоставляет пользователям больше гибкости и возможностей персонализации.
• Установка проста. Через Docker Compose, популярный инструмент оркестрации контейнеров, пользователи могут быстро развернуть FreeAskInternet, что упрощает процесс установки и настройки.

Как работает FreeAskInternet:Для вопроса, введённого пользователем в интерфейсе, SearXNG выполняет поиск по нескольким движкам. После завершения поиска система автоматически сканирует и собирает содержимое ссылок в результатах поиска, а затем передаёт это содержимое выбранной LLM (Large Language Models), такой как ChatGPT3.5, Kimi, Qwen, ZhipuAI или пользовательской ollama. Эти модели используют переданное содержимое в качестве ориентира для генерации контента и ответа на вопрос пользователя.

Установка и использование

Этот проект находится на ранней стадии, поэтому неизбежно могут быть некоторые проблемы, но его вполне достаточно для личного обучения и использования.

Перед установкой необходимо, чтобы Docker был установлен локально и поддерживал docker-compose. Установка и использование описаны ниже:

git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d 

После установки вы можете открыть ссылку http://localhost:3000, чтобы начать использовать её.