anse

Основные возможности: Поддержка чатов с AI-моделями через несколько бэкендов, включая OpenAI (например, gpt-4o), Azure OpenAI, Replicate и Google (например, gemini-pro). Поддерживаются собственные API Keys, Base URLs и Endpoints. Доступна расширенная настройка параметров моделей: Max Tokens, Max History Message Size, Temperature, Top P и Top K.

Инструкция: В Settings настройте API Key и параметры модели для нужного провайдера, затем введите содержимое в интерфейсе Conversations, чтобы начать чат. Поддерживаются Request With Backend и смена языка системы: English, Français, 简体中文 и 繁體中文.

Поддерживаемые модели: модели OpenAI (например, gpt-4o), deployment models Azure OpenAI, модели Replicate и модели Google (например, gemini-pro).

Открытый исходный код: Исходный код размещён на Github, также доступна документация для разработчиков (Docs).

Для кого: Для разработчиков, энтузиастов технологий и опытных пользователей AI, которым нужны гибкое переключение между несколькими LLM и их настройка.

Стоимость: Сам инструмент имеет открытый исходный код и бесплатен; расходы на использование оплачивает пользователь согласно тарифам соответствующих API-провайдеров.