Model Series

Qwen2.5

What are the models used?

Qwen/QwQ-32B-AWQ

What is the scenario where the problem happened?

Qwen/QwQ-32B-AWQ generates responses with undesired mix of languages (es. chinese, korean, russian words)

Is this badcase known and can it be solved using avaiable techniques?

• I have followed the GitHub README.
• I have checked the Qwen documentation and cannot find a solution there.
• I have checked the documentation of the related framework and cannot find useful information.
• I have searched the issues and there is not a similar one.

Information about environment

Description

Steps to reproduce

This happens to Qwen/QwQ-32B-AWQ
The badcase can be reproduced with the following steps:

1. Create a Template with following format:

You are an assistant who, based on the information in the ## Context, answers the ## Question.

Context

here we provide the chunks retrieved

Requirements

1. Always reply only in arabic.
2. Use exclusively the characters, script and alphabet of arabic. Under no circumstances introduce ideograms, Cyrillic letters, or any other scripts or symbols not part of arabic, except when quoting an untranslatable term verbatim.
3. Every word in your answer must be in arabic.
4. In the ## answer the only characters that are allowed are arabic characters

Question

كل ما نعرفه عن تربية الأولاد

Answer

2. Run request with following parameters:

• temperature: 0.001
• top_p=1.0

user: "ALL PROMPT INSIDE HERE"

Expected results

The expected results must always be in the same language (in this case, Arabic). If a word cannot be translated, it should be cited as is. In this example, the Russian word "травмы" appears, and while its meaning is correct, it is not arabic. This issue can also occur with other words across different languages and prompts.

Example:

تربية الأولاد تتطلب بيئة داعمة واجتماعية، حيث أن التنشئة العائلية المنعزلة تؤدي إلى التوتر وتفشل في توفير الاحتياجات الأساسية للطفل. يجب على الآباء الاستجابة لاحتياجات الطفل العاطفية والجسدية، مثل الأمان غير المشروط والارتباط الآمن، مما يعزز نموه الصحي. الإهمال أو التهرب من التعامل مع التوتر الشخصي أو травмы يؤثر سلبًا على قدرة الآباء على تربية أطفالهم بشكل فعّال ref. 1,2.
اللعب الحر ضروري للنمو العقلي والعاطفي، بينما الممارسات مثل العقاب الجسدي أو التهديد تُضعف الثقة وتعزز السلوكيات العدوانية ref. 3. الثقافة الحديثة تُعرقل هذه الاحتياجات الطبيعية عبر ضغوط العمل، انعدام الدعم الاجتماعي، وسياسات العمل التي تُجبر الآباء على العودة المبكرة بعد الولادة، مما يحرم الأطفال من الرعاية الكافية ref. 1.
النصائح التربوية الحديثة التي تعتمد على البيانات أو التحكم في السلوك غالبًا ما تتجاهل الحكمة الطبيعية للإنسان، مثل الرضاعة الطبيعية أو النوم المشترك، مما يُضعف الروابط العاطفية ref. 4. يجب أن تكون التربية مبنية على فهم الاحتياجات الأساسية للطفل، مثل الأمان، الاستجابة العاطفية، والدعم الجماعي من المجتمع ref. 2.
مراجع:
The Myth of Normal by Gabor Mate.pdf

Attempts to fix

I have tried several ways to fix this, including:

1. prompt engineering