Tìm nguồn dữ liệu ngôn ngữ ít tài nguyên và lý do không thể rút ngắn

· 4 phút đọc · languages, specification
Bản dịch này do máy tạo ra và chưa được người bản ngữ kiểm tra. Khi có điểm chưa rõ, bản tiếng Anh là bản gốc. Hãy cho chúng tôi biết nếu có lỗi và chúng tôi sẽ sửa. English
Ít tài nguyên có nghĩa là có ít dữ liệu sử dụng được, không phải ít người nói. Quét không tìm thấy gì, dịch tạo ra văn bản dịch thay vì cách sử dụng bản ngữ, và tạo dữ liệu tổng hợp yêu cầu một mô hình đã thành thạo ngôn ngữ đó. Cách duy nhất là người bản ngữ tạo ra tài liệu mới, điều này làm cho việc tìm nguồn trong khu vực trở thành ràng buộc chính.
Tóm tắt
- Ít tài nguyên đề cập đến sự sẵn có của dữ liệu, không phải số lượng người nói.
- Tập hợp văn bản dịch dạy cách diễn đạt dịch, không phải cách sử dụng bản ngữ.
- Tạo dữ liệu tổng hợp là vòng tròn đối với các ngôn ngữ mà mô hình xử lý kém.
- Tìm nguồn phụ thuộc vào sự hiện diện thực tế trong cộng đồng ngôn ngữ.
- Corpshore bao gồm các ngôn ngữ như Twi, Karakalpak và Wayuu.
Bạn đang lên kế hoạch cho dự án tương tự?
Chúng tôi muốn trao đổi về vấn đề hơn là báo giá theo khối lượng.
Xem năng lựcTại sao việc quét thất bại ở đây?
Vì tài liệu không tồn tại trực tuyến với số lượng sử dụng được. Đó là lý do ngôn ngữ được coi là ít tài nguyên ngay từ đầu. Quét mạnh hơn không tạo ra văn bản chưa từng được viết.
Những gì quét tìm thấy thường là bản dịch tôn giáo, thông báo của chính phủ và tin tức, đó là một cách diễn đạt hẹp và trang trọng khiến hệ thống không thể xử lý hội thoại.
Tại sao dịch thất bại?
Vì một tập hợp câu tiếng Anh được dịch sang ngôn ngữ đích dạy mô hình cách diễn đạt dịch. Người bản ngữ không nói như vậy và sự không khớp xuất hiện ngay lập tức trong sử dụng thực tế.
Nó cũng nhập khẩu phân bố chủ đề của ngôn ngữ nguồn, vì vậy hệ thống kết quả thông thạo về các chủ đề mà tập hợp nguồn đã đề cập và không biết về các chủ đề quan trọng tại địa phương.
Tại sao tạo dữ liệu tổng hợp là vòng tròn?
Vì tạo dữ liệu đào tạo sử dụng được cho một ngôn ngữ yêu cầu một mô hình đã thành thạo ngôn ngữ đó. Nếu bạn có điều đó, bạn sẽ không cần dữ liệu.
Tăng cường tổng hợp có những ứng dụng thực tế khi bạn đã có một tập hợp hạt giống thực sự. Nó không thể tạo ra một tập hợp hạt giống.
Việc tìm nguồn thực sự yêu cầu gì?
Người bản ngữ tạo ra tài liệu mới, điều này có nghĩa là tuyển dụng trong cộng đồng ngôn ngữ thay vì trực tuyến rộng rãi. Đối với nhiều ngôn ngữ ít tài nguyên, dân số người nói tập trung về mặt địa lý, vì vậy đây là vấn đề hiện diện thực tế trước khi là vấn đề nền tảng.
Hãy mong đợi thời gian phản ánh điều đó. Một ngôn ngữ không có tập hợp hiện có và dân số người nói phân tán là một bài tập tìm nguồn kéo dài nhiều tháng, và bất kỳ nhà cung cấp nào báo giá khác đều đang thuê ngoài cho dịch hoặc chưa hiểu yêu cầu.
- Tuyển dụng trong cộng đồng ngôn ngữ
- Sản xuất bản ngữ, không phải dịch
- Thời gian thực tế cho việc tạo tập hợp từ con số không
- Cách diễn đạt và phạm vi chủ đề được chỉ định rõ ràng
Câu hỏi khác
Ngôn ngữ ít tài nguyên trong học máy là gì?
Một ngôn ngữ có ít dữ liệu kỹ thuật số sử dụng được để đào tạo, bất kể số lượng người nói. Một số ngôn ngữ có hàng chục triệu người nói vẫn là ít tài nguyên.
Tôi có thể sử dụng văn bản dịch để đào tạo mô hình ngôn ngữ ít tài nguyên không?
Nó dạy cách diễn đạt dịch thay vì cách sử dụng bản ngữ và nhập khẩu phân bố chủ đề của tập hợp nguồn. Sự không khớp xuất hiện ngay lập tức với người dùng thực tế.
Dữ liệu tổng hợp có thể giải quyết khoảng trống ngôn ngữ ít tài nguyên không?
Không từ con số không. Tạo dữ liệu sử dụng được yêu cầu một mô hình đã thành thạo ngôn ngữ, điều này là vòng tròn. Tăng cường tổng hợp chỉ hữu ích khi đã có một tập hợp hạt giống bản ngữ thực sự.