JwumaDlaczego Twój model mowy zawodzi na prawdziwej wielojęzycznej mowie
· 2 min czytania · speech, evaluation
To tłumaczenie zostało wykonane maszynowo i nie zostało sprawdzone przez native speakera. W razie wątpliwości obowiązuje wersja angielska. Napisz nam, jeśli coś brzmi błędnie, a poprawimy. English
Większość systemów mowy zakłada jeden język na wypowiedź. Prawdziwi wielojęzyczni mówcy zmieniają język w środku zdania, co prowadzi do cichej porażki: system transkrybuje dominujący język i pomija lub zniekształca resztę. Zwykle jest to niedoszacowane, ponieważ jednojęzyczne zestawy testowe nie zawierają tego zjawiska.
W skrócie
- Przełączanie kodu oznacza zmianę języka w ramach jednej wypowiedzi.
- Jest to normalna mowa w dużej części Afryki, Azji Południowej i Azji Południowo-Wschodniej.
- Jednojęzyczne zestawy testowe nie mogą wykryć porażki przełączania kodu.
- Tagowanie wymaga anotatorów biegle posługujących się oboma językami, a nie jednym.
- Konwencje dotyczące zapożyczonych pojedynczych słów muszą być ustalone jednoznacznie.
Planujesz podobny projekt?
Wolimy rozmawiać o problemie niż wyceniać sam wolumen.
Zobacz nasze możliwościJak właściwie wygląda ta porażka?
Nie jest to komunikat o błędzie. System transkrybuje części w języku, którego się spodziewa, i cicho zniekształca lub pomija resztę, tworząc wyjście, które wygląda wiarygodnie, ale brakuje mu treści.
Ponieważ wyjście jest poprawnie uformowane, dalsze kontrole jakości przechodzą. Dlatego problem jest zwykle odkrywany przez użytkowników, a nie przez ewaluację.
Dlaczego jest niedoszacowane?
Ponieważ zestawy testowe tego nie zawierają. Zbiór danych złożony z czystych nagrań jednojęzycznych, a następnie podzielony na trening i test, nie może ujawnić trybu porażki, który wymaga mieszanych danych językowych, aby się pojawić.
Pierwszym krokiem jest prawie zawsze zbudowanie zestawu ewaluacyjnego z prawdziwą mową z przełączaniem kodu, zanim zamówi się jakiekolwiek dane treningowe. Pomiar luki jest tańszy niż zakładanie jej wielkości.
Kto może to właściwie anotować?
Osoba naprawdę biegle posługująca się oboma językami. Nie osoba biegle mówiąca jednym z podręcznikową znajomością drugiego, ponieważ granice są często niejednoznaczne i ich rozstrzyganie wymaga intuicji rodzimego użytkownika w obu językach.
To jest ograniczenie, które determinuje wykonalność projektu. Dla pary językowej, w której niewiele osób biegle posługuje się oboma, pula anotatorów jest wiążącym ograniczeniem, a nie budżet.
Jakie decyzje dotyczące konwencji mają największe znaczenie?
Jak traktować pojedyncze zapożyczone słowo w zdaniu jednojęzycznym. Czy ustalone zapożyczenie liczy się jako przełączenie. Jak oznaczać morfologiczne mieszanki, gdzie rdzeń z jednego języka przyjmuje afiks z innego.
Każda ma uzasadnioną odpowiedź, ale nie uniwersalną. Ważne jest, aby wybrać jednoznacznie i zamrozić to, ponieważ anotatorzy stosujący różne odpowiedzi w całym korpusie tworzą dane, które niczego nie uczą.
- Pojedyncze zapożyczone słowa: przełączenie czy nie?
- Ustaleni zapożyczenia: przełączenie czy nie?
- Mieszanki morfologiczne: jak oznaczone?
- Nazwy własne: wyłączone z przełączania?
Inne pytania
Co to jest przełączanie kodu w rozpoznawaniu mowy?
Zmiana języka w ramach jednej wypowiedzi. Jest to normalna wielojęzyczna mowa i łamie systemy, które zakładają jeden język na wypowiedź, zwykle przez ciche pomijanie lub zniekształcanie nieoczekiwanego języka.
Dlaczego standardowe zestawy testowe pomijają porażki przełączania kodu?
Ponieważ zawierają nagrania jednojęzyczne. Porażka, która pojawia się tylko przy mieszanym wejściu językowym, nie może być wykryta przez zestaw testowy, który go nie zawiera.
Kto może anotować mowę z przełączaniem kodu?
Tylko anotatorzy naprawdę biegle posługujący się oboma językami, ponieważ przypadki graniczne wymagają intuicji rodzimego użytkownika w każdym z nich. Ta pula anotatorów, a nie budżet, jest zwykle wiążącym ograniczeniem w takich projektach.