Mods

Mods pipeline-এর জন্য তৈরি একটি কমান্ড-লাইন AI টুল। এটি standard input পড়ে, arguments-এ দেওয়া prompt সামনে যোগ করে, input text একটি LLM-এ পাঠায় এবং ফলাফল প্রিন্ট করে। ব্যবহারকারীরা LLM-কে উত্তরটি Markdown হিসেবে format করতে বলতে পারেন, ফলে কোনো command-এর output-কে প্রশ্ন হিসেবে ব্যবহার করা যায়। Mods standard input অথবা argument-এ দেওয়া prompt আলাদাভাবেও পরিচালনা করতে পারে।

প্রধান বৈশিষ্ট্য

• একাধিক endpoint: ডিফল্টভাবে OpenAI-এর official API এবং port 8080-এ চলা LocalAI installation সমর্থন করে। Cohere, Groq, Azure OpenAI, Ollama, Anthropic এবং Gemini-ও সমর্থিত। mods --settings চালিয়ে settings file-এ অতিরিক্ত endpoint কনফিগার করা যায়।
• সংরক্ষিত কথোপকথন: কথোপকথন ডিফল্টভাবে স্থানীয়ভাবে সংরক্ষিত হয় এবং প্রতিটির সঙ্গে SHA-1 identifier ও title থাকে। কথোপকথনের তালিকা দেখা, চালিয়ে যাওয়া, দেখানো এবং মুছে ফেলা যায়।
• কাস্টম role: system prompt সেট করার সুবিধা। যেমন, shell role মডেলকে কোনো ব্যাখ্যা ছাড়াই এক লাইনের command আউটপুট দিতে নির্দেশ করতে পারে।
• MCP সমর্থন: SSE/HTTP transport type-সহ MCP (Model Context Protocol) server সমর্থন করে। MCP server-এর তালিকা দেখা, নিষ্ক্রিয় করা এবং উপলভ্য tool-এর তালিকা দেখা যায়।
• ফরম্যাট করা output: --format এবং --format-as flags দিয়ে output format, যেমন JSON, নির্দিষ্ট করা যায়। JSON response format সমর্থনকারী মডেলে response type সেট করা হয়; অন্যথায় format-এর text prompt-এ যোগ করা হয়।
• Pipeline integration: command-এর standard output AI processing-এর input হিসেবে নিতে পারে, তাই কমান্ড-লাইন tool-এর সঙ্গে মিলিয়ে ব্যবহারের জন্য উপযোগী।

ব্যবহার

macOS/Linux-এর জন্য Homebrew, Windows-এর জন্য Winget, Arch Linux-এর জন্য yay, Nix, Debian/RPM package, binaries অথবা go install github.com/charmbracelet/mods@latest দিয়ে ইনস্টল করা যায়। Bash, ZSH, Fish এবং PowerShell-এর জন্য pre-generated shell completion উপলভ্য।

প্রধান সুবিধা

• কমান্ড লাইনের সঙ্গে সহজ integration, বিশেষভাবে pipeline-এর জন্য তৈরি।
• Open source এবং স্থানীয়ভাবে চলা মডেলসহ বিভিন্ন LLM provider সমর্থন করে।
• মডেল নির্বাচন (--model), interactive model prompting (--ask-model), sampling temperature (--temp), Top P/K value, HTTP proxy, সর্বোচ্চ retry এবং token limit-এর মতো সমৃদ্ধ parameter configuration।

মূল্য

টুলটি MIT license-এর অধীনে বিনামূল্যে এবং open source। তবে OpenAI, Cohere, Groq, Azure OpenAI এবং Gemini-এর মতো external API ব্যবহার করতে সংশ্লিষ্ট API key প্রয়োজন; খরচ প্রতিটি provider-এর pricing-এর ওপর নির্ভর করে।