tiyuvta.ai

What you might miss if you look at the i/o price only: DeepSeek V4.1 Flash is a smart and efficient model. Compared to the latest leading flash models, its input and output price per 1m tokens is costlier. It is not expensive, 0.3 for 1 m input and 1.2 for 1M output, but if you compare it to GLM 5.3 Flash, very close to DSV4.1F in performance, it costs 0.15/0.5. Seems like less than a half. But the specialty of the model is that it is built to be extremely efficient to cache - and the cache price is only 0.03 per 1m tokens. If you run long sessions in loops, most of what you pay for is cache. If you use a good provider with good inference engineers, cache might be > 90% of what you pay for. Tiyuvta stats over the last week: 93% of the input is cached. Do the math. https://lnkd.in/dCe3bduJ #kvcache #deepseek #paretofrontier

If your product runs on an LLM, the API bill is your cost of goods. It grows with every customer you win, and you do not control the price. We move that work onto hardware you control at self-hosting cost or on secure servers in the cloud, which you can have with the option for us to manage the servers for you on our hardware: models tuned to your data and your language, the surrounding pipeline, and a serving stack tuned to your workload. Cutting a token bill to a fraction of itself is the whole point. Teams doing this seriously land near a third of what they were paying on better models than they started with, and the hardware keeps working after it is paid for. The same work also runs the internal side: customers are answered, documents are handled, and company knowledge is kept current. And if your workload is small, start on our API in minutes instead. We are the same people either way. https://tiyuvta.ai/

DeepSeek 4.1 Flash is now supported on Tiyuvta. What makes this model interesting to us is the inference story. DeepSeek is pushing toward a model that delivers very high capability without requiring the entire model to be active for every token. That changes the economics of serving: less compute, less memory pressure, and a much more practical path to running a very large model efficiently. This is exactly the direction we care about at Tiyuvta. Not just better models - better models that can actually be served efficiently. You can now try DeepSeek 4.1 Flash on Tiyuvta inference via API. And if you try it, like it, and your business actually needs this class of model at a much lower serving cost, we can help you run it on infrastructure dedicated to your workload as well. Leave a comment or email us. hello@tiyuvta.ai https://lnkd.in/dVGZuPDQ

If you don't use agents for coding, the SWE benches on the model's front page are not what you should care about. Most SOTA models are racing in coding and math performance. If your agent is supposed to handle customer reports, there are plenty of good models that cost 1/10 that will do the same job with the same results. Check the right numbers.

זה קל להבין למה להחזיק AI שרץ In house אם המוצר שלכם מבוסס AI. זאת העלות העיקרית. אבל נניח ואתם לא "AI product". אתם רק משתמשים לכמה דברים. אם אתם נותנים לכל עובד seat בקורסור, אז לא על זה אני מדבר. ובלי קשר זה לא הפתרון שבטוח תפור עליכם וזה מה שאתם צריכים, אבל לחלקחים כן. יש לכם בוט של שירות לקוחות, הוא עובד 18 שעות ביום וחוסך לכם מלא שעות אדם בפניות שנפתרות או מופנות למוקד הנכון. יש לכם אייג'נט שמרכז את המידע של החברה, הוא בונה מערכת זיכרון, הוא מנקה את הקלאשינג בין העובדות הסותרות, הוא מכין את הקרקע לבוטים, שיענו נכון. אחרון, אייג'נט שמכיר את החברה ומחפש לכם לידים, הרבה tools, mcp, והרבה גישה למידע שלכם, in and out. אתם משתמשים במודל זול אבל של חברה מובילה, כי לא תשימו את העסק שלכם אצל איזשהי מעבדת no-name. מחיר חודשי, בלי שימוש כבד מדי - 10k שח בחודש. סביר ושווה את זה. היום מערכת כוללת של 5090 עולה לכם בסביבות ה40k שח. עם memra אתם מריצים את qwen 3.8 24b בקצב של 111 טוקן בשנייה, עם זמן תגובה של פחות מחצי שנייה. אתם יכולים להחזיק במקביל 3 סשנים כדי למקבל את כל האייג'נטים שלכם. רק כדי להבין, כשאתם משלמים על "fast" אתם מקבלים אולי 70 טוקן לשנייה, יש לכם את הזמן שזה רץ ברשת ולוקח הרבה יותר מחצי שנייה לטוקן ראשון. על ה40k האלו את גם מקבלים כוללים במס פחת של 33% במשך שלוש שנים אז המחיר הוא תכלס 30k. נניח שזה באמת רק לשלוש שנים, אתם ב1100 לחודש. במקום 10k. תוסיפו את העלות שלנו, שתלויה בהמון דברים ותלויה במה שאתם צריכים, אבל על גבי 3 שנים זה יגיע מקסימום לחצי. אם זה יותר מחצי אנחנו כנראה נציע לכם פתרון אחר. בונוס: אם העסק שלכם מתפוצץ, אתם פשוט מוסיפים עוד כרטיס, 20k, לאותה מערכת. לא מכפילים את המחיר. ואם הקמתם איתנו, אנחנו מייעצים ומלווים, ומסכמים מראש כמה אחוז מהוצאת ההקמה יעלה להגדיל, להחליף מודל, וכו. בונוס 2: אייג'נטים זה ההתמחות שלנו מהבית, על הדרך אנחנו ניתן טיפים על איך לחסוך, איך לבנות משהו שלא עושה פאדיחות, איזה מודל באמת חזק מספיק, ונצייר לכם דיאגרמה של הפייפליין שלכם סתם כי זה כיף לנו. אם בא לכם לשמוע עוד תשאירו תגובה, שלחו הודעה או תשאירו מייל ב hello@tiyuvta.ai

עלתה גרסה בעברית לאתר. שירותים עם דוגמאות אמיתיות: fine-tune, BYOC, דיפלוימנט על השרתים שלנו עם המודלים שנעזור לכם להתאים לסרוויס שלכם, וapi זול ופשוט מהיר יותר. מה שמתאים *לכם*. רוצים לדבר? תשאירו פרטים בתגובה או מייל ל hello@tiyuvta.ai. https://lnkd.in/dSWt2XtF #בינהמלאכותית #הייטק #סטארטאפ

Most company writing is not a blank page. It is an email that came out too sharp. Notes nobody shaped. A brief that another system needs as JSON. We published a use case for that: write the work, on DeepSeek-V4.1-Flash. Rewrite the email. Turn notes into decisions and actions. Turn a rough brief into structured JSON your app can save. https://lnkd.in/dCD4qBzi

Removing 87% of the draft vocabulary made it decoded faster

With LLMs it seems that progress is not intuitive: acceptance dropped, and the tok/s got higher. https://lnkd.in/dgAt5U3b