Gemini може понякога да генерира китайски в своето разсъждение или окончателен отговор, дори когато очаквате английски. Това обикновено сочи към временно многоезично отклонение. То не означава само по себе си, че Gemini е преминал към отделен китайски модел.
Кратката версия: прегледайте целия разговор за сигнали на китайски език, повторете желаното изходно език и не използвайте настройката stream като решение за езика.
Какво означава отклонението на езика в Gemini
Отклонението на езика се случва, когато моделът започва на, или е помолен да използва, един език, но генерира част от своя отговор на друг. Потребител може да подаде английски подтик и все пак да види chinese текст в съдържанието на разсъждението или окончателния отговор.
Gemini е многоезичен и генерира текст токен по токен. Неговият изход е повлиян от целия наличен контекст, а не само от последната инструкция. Изборът на език следователно е по-добре разбран като контекстно чувствителна генерация, отколкото като постоянно фиксиран превключвател.
Защо Gemini може внезапно да използва китайски
1. Източниците са предимно китайски
Китайски уебстраници, документи или информация за продукти могат да направят китайския текст местно правдоподобно продължение, дори когато въпросът е на английски.
2. Разговорът вече съдържа китайски сигнали
Китайски субекти, цитати и предишни съобщения могат да повлияят на по-късния изход. Всеки turn добавя контекст, който може да повлияе на начина, по който Gemini ще respond.
3. Многоезичната генерация се случва токен по токен
Заявеният език е важна ограничителна, но не е абсолютен превключвател в стил хардуер. Конкуриращи се езикови модели могат да останат присъстващи в контекста.
4. Задачата има дълъг или сложен контекст
Разсъжденията с дълъг контекст и работни потоци, базирани на извличане, съдържат повече материал за съгласуване. Според бележката на източника на проекта, последователността на езика може да намалее при тези условия.
Причинява ли stream=true китайски изход?
Не. Настройката за стрийминг контролира доставката:
stream=trueвърща части от отговора, когато те станат налични.stream=falseвърща отговора наведнъж.
Нито една от опциите не инструктира Gemini да използва английски или китайски. Стриймнато запитване може да съдържа езиково отклонение, но стриймингът не е пряката причина. Изключването на стрийминг може да промени какво вижда потребителят и кога, но не функционира като контрол на езика.
Как да се справим с неочаквано превключване на езика
Следвайте тези стъпки, преди да направите заключения за модела.
Стъпка 1: Проверете текущия разговор
Търсете китайски изходен текст, цитати, именувани субекти, описания на продукти, извлечени страници и по-ранни китайски съобщения.
Стъпка 2: Повторете изискването за изход
Поставете директна инструкция близо до задачата:
Отговорете само на английски, включително окончателния отговор.
Стъпка 3: Намалете наследения контекст
Ако разговорът е дълъг или многоезичен, опитайте отново в чист разговор с единствено необходимия материал за задачата.
Стъпка 4: Оставете стриймингът конфигуриран за доставка
Изберете stream=true когато инкременталният изход подобрява опита и stream=false когато е предпочитателен пълен отговор. Не избирайте между тях като решение за езика.
Стъпка 5: Запазете доказателства при диагностициране на повтарящ се проблем
Запишете текущия подтик, по-ранни ходове, извлечено съдържание, явна инструкция за езика, stream стойност и точен отговор. Едно единствено извлечение рядко съдържа достатъчно информация, за да определи защо е настъпило отклонението.
Какво не трябва да заключавате
Неочакваният китайски не доказва, че Gemini тайно е сменил модели. То също не доказва, че стриймингът е причинил промяната. Тези обяснения изискват доказателства извън видимия език на един отговор.
Публични публикации в общността описват подобни неочаквани промени, свързани с китайски, японски и португалски. Те са полезни примери за многоезичен симптом, но остават анекдотични и не разкриват вътрешната реализация на Gemini.
Бърз списък за проверка
- Има ли китайски текст някъде в изходния материал?
- Използва ли по-ранен
turnкитайски? - Дълъг ли е разговорът, сложен ли е или с много извличания?
- Посочен ли е изискваният изходен език близо до текущото запитване?
- Третирате ли
streamкато конфигурация за доставка, а не като конфигурация за език? - Запазили ли сте целия контекст, необходим за възпроизвеждане на проблема?
Често задавани въпроси
Смени ли Gemini на китайски модел?
Неочакваният китайски отговор не установява това. Временното многоезично отклонение е по-последователното обяснение, описано от изходния материал.
Ще предотврати ли stream=false езиковото отклонение?
Не е установена пряка причинна връзка. stream=false променя кога се доставя отговорът, а не кой език се генерира.
Този проблем уникален ли е за китайския?
Очевидно не. Публични доклади също споменават японски и португалски, което е по-последователно с общо многоезично поведение, отколкото с проблем само с китайския.
Може ли явен подтик да гарантира английски изход?
Ясната инструкция е разумно смекчение, но изходният материал не установява гаранция.
Краен извод
Когато Gemini неочаквано отговаря на китайски, проучете контекста, преди да предположите промяна на модела. Повторете целевия език, опростете многоезичния разговор, когато е необходимо, и отделете проблемите с генерирането от поведението на стрийминг.
За примери, обсъдени в изходния проект, вижте случай на общността 1 и случай на общността 2.
