JwumaWarum Ihr Sprachmodell bei realer mehrsprachiger Sprache versagt
· 2 Min. Lesezeit · speech, evaluation
Diese Übersetzung wurde maschinell erstellt und nicht von einem Muttersprachler geprüft. Im Zweifelsfall gilt die englische Fassung. Sagen Sie uns Bescheid, wenn etwas falsch klingt, und wir korrigieren es. English
Die meisten Sprachsysteme gehen von einer Sprache pro Äußerung aus. Echte mehrsprachige Sprecher wechseln die Sprache mitten im Satz, was zu einem stillen Versagen führt: Das System transkribiert die dominante Sprache und lässt den Rest aus oder verzerrt ihn. Es wird normalerweise zu wenig gemessen, weil monolinguale Testsets das Phänomen nicht enthalten.
Kurz gefasst
- Code-Switching bedeutet, innerhalb einer einzigen Äußerung die Sprache zu wechseln.
- Es ist normale Sprache in weiten Teilen Afrikas, Südasiens und Südostasiens.
- Monolinguale Testsets können Code-Switching-Fehler nicht erkennen.
- Das Tagging erfordert Annotatoren, die in beiden Sprachen fließend sind, nicht nur in einer.
- Konventionen für entlehnte Einzelwörter müssen explizit festgelegt werden.
Planen Sie etwas Ähnliches?
Wir sprechen lieber über das Problem als über eine Mengenangabe.
Leistungen ansehenWie sieht das Versagen tatsächlich aus?
Keine Fehlermeldung. Das System transkribiert die Teile in der Sprache, die es erwartet, und verzerrt oder lässt den Rest stillschweigend aus, was zu einem plausiblen, aber inhaltlich unvollständigen Output führt.
Da der Output gut geformt ist, bestehen nachgelagerte Qualitätsprüfungen. Deshalb wird das Problem normalerweise von Nutzern entdeckt und nicht durch Evaluation.
Warum wird es zu wenig gemessen?
Weil die Testsets es nicht enthalten. Ein Datensatz, der als saubere einsprachige Aufnahmen zusammengestellt und dann in Training und Test aufgeteilt wird, kann einen Fehlermodus nicht aufdecken, der gemischte Spracheingaben erfordert, um aufzutreten.
Der erste Schritt ist fast immer der Aufbau eines Evaluationssets mit echtem Code-Switching, bevor Trainingsdaten in Auftrag gegeben werden. Die Lücke zu messen ist günstiger, als ihre Größe anzunehmen.
Wer kann es tatsächlich annotieren?
Jemand, der in beiden Sprachen wirklich fließend ist. Nicht ein fließender Sprecher der einen mit Schulkenntnissen der anderen, da die Grenzen häufig mehrdeutig sind und ihre Auflösung native Intuition in beiden erfordert.
Dies ist die Einschränkung, die die Machbarkeit des Projekts bestimmt. Bei einem Sprachpaar, bei dem nur wenige Menschen in beiden Sprachen fließend sind, ist der Annotatorenpool die begrenzende Größe, nicht das Budget.
Welche Konventionsentscheidungen sind am wichtigsten?
Wie man ein einzelnes entlehntes Wort in einem ansonsten monolingualen Satz behandelt. Ob ein etabliertes Lehnwort als Wechsel zählt. Wie man morphologische Mischungen markiert, bei denen ein Stamm aus einer Sprache ein Affix aus einer anderen annimmt.
Jede hat eine vertretbare Antwort und keine universelle. Wichtig ist, sich explizit zu entscheiden und es festzulegen, denn Annotatoren, die unterschiedliche Antworten über ein Korpus hinweg anwenden, erzeugen Daten, die nichts lehren.
- Einzelne entlehnte Wörter: Wechsel oder nicht?
- Etablierte Lehnwörter: Wechsel oder nicht?
- Morphologische Mischungen: wie markiert?
- Eigennamen: vom Wechsel ausgeschlossen?
Weitere Fragen
Was ist Code-Switching in der Spracherkennung?
Der Wechsel der Sprache innerhalb einer einzigen Äußerung. Es ist normale mehrsprachige Sprache und durchbricht Systeme, die von einer Sprache pro Äußerung ausgehen, indem es normalerweise die unerwartete Sprache stillschweigend auslässt oder verzerrt.
Warum übersehen Standard-Testsets Code-Switching-Fehler?
Weil sie einsprachige Aufnahmen enthalten. Ein Fehler, der nur bei gemischten Spracheingaben auftritt, kann von einem Testset, das keine enthält, nicht erkannt werden.
Wer kann Code-Switching-Sprache annotieren?
Nur Annotatoren, die in beiden Sprachen wirklich fließend sind, da Grenzfälle native Intuition in jeder erfordern. Dieser Annotatorenpool, nicht das Budget, ist normalerweise die begrenzende Größe bei solchen Projekten.