Parakeet V3 vs Whisper: Nhanh hơn 10 lần, chính xác hơn (Benchmark)

Tại sao mình đổi model mặc định

Whisper rất tốt, nhưng nó được thiết kế như một model đa năng. Nó xử lý hơn 100 ngôn ngữ, dịch thuật, tạo timestamp — kiểu như dao Thụy Sĩ vậy. Đánh đổi lại là tốc độ. Với việc đọc chính tả tiếng Anh, khi bạn chỉ cần chữ hiện lên màn hình thật nhanh thì nó hơi thừa.

Có một điều làm mình khá bực: khi dùng phím tắt Fn để đọc chính tả toàn hệ thống với Whisper, nói xong khoảng 1 phút thì phải chờ 3–5 giây mới thấy văn bản hiện ra. Khoảng chờ đó phá vỡ nhịp làm việc. Bạn ngừng nói, chờ đợi, nhìn con trỏ chuột — cảm giác "phép thuật" của gõ bằng giọng nói biến mất hoàn toàn.

Parakeet thay đổi hoàn toàn chuyện này. Tốc độ nhanh đến mức văn bản hiện ra ngay lập tức khi bạn ngừng nói. Nói xong, chữ đã ở đó rồi. Khi bạn trải nghiệm cảm giác đó — dòng chảy liền mạch, không phải chờ đợi — thì rất khó quay lại Whisper.

Parakeet V3 nhanh cỡ nào?

Con số nói lên tất cả. Đây là so sánh thực tế với file âm thanh 35 phút trên cùng một chiếc Mac:

Nhanh gấp 10 lần. Và vì model nhỏ hơn (600M so với 800M tham số), nó tốn ít bộ nhớ và ít pin hơn.

Điều gì giúp Parakeet v3 nhanh đến vậy

Whisper nghe âm thanh giống như bạn đọc sách thành tiếng vậy — từng từ một, từng frame một, không bao giờ nhảy cóc. Ngay cả khi im lặng, nó vẫn xử lý, vẫn đoán xem tiếp theo là gì. Kỹ lưỡng thì có kỹ lưỡng, nhưng chậm.

Parakeet tiếp cận theo cách hoàn toàn khác. Nó nén tín hiệu âm thanh 8 lần trước khi xử lý, nên model chỉ nhìn vào những gì quan trọng. Sau đó, thay vì xử lý từng frame một, nó dự đoán không chỉ bạn nói từ gì, mà còn từ đó kéo dài bao lâu — rồi nhảy thẳng sang phần tiếp theo. Im lặng? Bỏ qua luôn. Nguyên âm kéo dài? Một lần dự đoán thay vì hàng chục lần.

Kết quả là một model xử lý giọng nói giống cách não bạn làm — tập trung vào từ ngữ, bỏ qua khoảng trống. Đó là lý do nó nhanh gấp 10 lần với ít tham số hơn mà độ chính xác lại cao hơn.

Benchmark: Parakeet v3 so với Whisper

Parakeet v3 ngang bằng hoặc vượt qua các model lớn gấp 2-4 lần trên các benchmark FLEURS, CoVoST và MLS

Trên Hugging Face Open ASR Leaderboard, Parakeet v3 đứng đầu bảng xếp hạng chỉ với 600M tham số — chưa bằng một nửa so với 1.55B của Whisper Large V3:

WER thấp hơn = ít lỗi hơn. RTFx cao hơn = nhanh hơn. Parakeet thắng cả hai. Với 600M tham số, nó cũng là model nhỏ nhất trong danh sách — nghĩa là nó chạy rất mượt trên Apple Silicon với bộ nhớ và pin tiêu hao tối thiểu.

WER đa ngôn ngữ: Toàn bộ 25 ngôn ngữ

Bảng xếp hạng ở trên chỉ tính tiếng Anh. Đây là bức tranh toàn cảnh — ba model có trong Whisper Notes so sánh trên toàn bộ 25 ngôn ngữ mà Parakeet hỗ trợ, đo trên benchmark FLEURS. WER thấp hơn = ít lỗi phiên âm hơn. Giá trị tốt nhất giữa Large V3 và Parakeet được tô đậm theo từng hàng:

WER (%) trên FLEURS. Dữ liệu Whisper Small từ Radford và cộng sự; dữ liệu Large V3 và Parakeet V3 từ bài báo NVIDIA Canary-1B-v2.

Whisper Large V3 nhỉnh hơn ở hầu hết các ngôn ngữ riêng lẻ — nó lớn gấp 2.5 lần mà. Nhưng Parakeet V3 ngang bằng về trung bình (12.0% so với 12.6%), thắng áp đảo ở tiếng Hy Lạp, Pháp, Estonia và Malta, đồng thời vượt trội hoàn toàn so với Whisper Small (giảm 60% lỗi trung bình). Điều quan trọng không phải vài phần trăm WER — mà là tổng thể: độ chính xác ngang Large V3 với tốc độ gấp 23 lần, chỉ dùng 40% bộ nhớ, không ảo giác, và mọi thứ chạy cục bộ trên Mac của bạn.

Hết ảo giác

Nếu bạn từng dùng Whisper để đọc chính tả, chắc bạn đã thấy nó "ảo giác" khi im lặng — lặp lại cụm từ, bịa ra từ, hoặc bỗng dưng xuất hiện dòng "Subtitles by Amara.org" từ đâu không biết. Chuyện này xảy ra vì bộ giải mã autoregressive của Whisper luôn muốn tạo ra văn bản, ngay cả khi không có gì để phiên âm.

NVIDIA đã huấn luyện Parakeet với 36,000 giờ âm thanh thuần không-giọng-nói (tiếng ồn nền, tiếng ho, im lặng) kết hợp với chuỗi trống. Model đã học được im lặng nghe như thế nào và giữ yên lặng. Với chế độ đọc chính tả toàn hệ thống luôn bật, đây là bước ngoặt — không còn văn bản rác xuất hiện mỗi khi bạn dừng lại suy nghĩ.

Parakeet hỗ trợ những ngôn ngữ nào

Parakeet v3 hỗ trợ 25 ngôn ngữ: tiếng Bulgaria, Croatia, Séc, Đan Mạch, Hà Lan, Anh, Estonia, Phần Lan, Pháp, Đức, Hy Lạp, Hungary, Ý, Latvia, Lithuania, Malta, Ba Lan, Bồ Đào Nha, Romania, Nga, Slovakia, Slovenia, Tây Ban Nha, Thụy Điển và Ukraine.

Vậy là phủ gần hết châu Âu, nhưng không hỗ trợ tiếng Trung, Nhật, Hàn, Ả Rập hay Hindi. Đó là lý do mình vẫn giữ các model Whisper để tải xuống. Nếu bạn đọc chính tả bằng tiếng Nhật hay tiếng Phổ thông, hãy chọn Whisper Large V3 Turbo từ bảng chọn model. Với tiếng Anh và các ngôn ngữ châu Âu, Parakeet v3 đơn giản là engine tốt hơn.

Bảng chọn model: Parakeet V3 (mặc định), Whisper Small và Whisper Large V3 Turbo — tất cả chạy cục bộ

Còn Parakeet V2 thì sao?

Nếu bạn từng dùng V2, có thể bạn tò mò nó so với V3 thế nào. V2 là mô hình chỉ dành cho tiếng Anh — và độ chính xác tiếng Anh thực ra nhỉnh hơn V3 một chút (WER 6,05 % vs 6,32 %). V3 đánh đổi chênh lệch nhỏ đó để hỗ trợ 25 ngôn ngữ. Cả hai đều chính xác hơn nhiều so với Whisper.

Tóm lại: nếu bạn chỉ cần tiếng Anh, cả V2 và V3 đều rất tốt. V3 là mặc định trong Whisper Notes vì hỗ trợ đa ngôn ngữ quan trọng với phần lớn người dùng — và sự khác biệt về độ chính xác tiếng Anh là không đáng kể.

Dùng thử

Parakeet v3 đã có sẵn trong phiên bản Mac — chỉ cần tải DMG mới nhất. (Cập nhật: Parakeet đã có sẵn trong phiên bản iOS mới nhất.)

Có câu hỏi hay góp ý? Gửi email đến support@whispernotes.app.

Tải cho iOS Tải cho macOS