1 / 31

Statistical Phrased-Based Translation

Statistical Phrased-Based Translation. GVHD: TS Đinh Điền HVTH: Đức Hoàng Lê Quốc Hưng Nguyễn Hồng Bử u Long. Động lực. Dịch theo ngữ là cách tốt nhất để thực hiện dịch máy thống kê Độ thực thi tốt nhất trong các đánh giá DARPA gần đây Khá đơn giản Đã có các công cụ miễn phí

bardia
Télécharger la présentation

Statistical Phrased-Based Translation

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Statistical Phrased-Based Translation GVHD: TS ĐinhĐiền HVTH: ĐứcHoàng LêQuốcHưng NguyễnHồngBửu Long

  2. Độnglực • Dịchtheongữlàcáchtốtnhấtđểthựchiệndịchmáythốngkê • Độthựcthitốtnhấttrongcácđánhgiá DARPA gầnđây • Kháđơngiản • Đãcócáccôngcụmiễnphí • Xâydựngmộtbảngdịchngữnhưthếnào?

  3. Mụctiêu • So sánhcáccáchtiếpcậnhọcngữkhácnhau • Xemxétcáctínhchấtcủadịchtheongữ • Cúphápvàcácngữ

  4. Tổngquan • Đánhgiá framework • Môhìnhhợpnhất • Bộgiảimã • Ngữliệu • Ba phươngpháphọcngữ • Cácngữcảmsinhliênkếttừ (word-alignment induced phrases) • Cácngữcúpháp (syntactic phrases) • Liênkếtngữ (phrase alignment) • Thínghiệm

  5. Môhình Morgen fliege ich nachKanada ZurKonferenz in Canada will fly Tomorrow I to the conference

  6. Môhình (2) • Luật Bayes: • Câunướcngoài f đượcphânđoạnthành ngữ • Mỗingữđượcdịchvới • Cácngữđượcsắpxếplạivới • Dùngmôhìnhngônngữvà word penalty

  7. Bộgiảimã: Tìmkiếm Beam • Xâydựngtiếnganhbằngviệcmởrộnggiảthuyết • Từtrái sang phải • Khônggiantìmkiếmtheosốmũvớichiềudàicâu • giảmbớtbằngcáchlượcbỏgiảthuyếtyếunhờướclượng chi phítươnglai

  8. Bộgiảimã: TìmkiếmBeam (2) e: … did • f: *--------- p: .122 e: Mary • f: *--------- p: .534 e: … slap • f: *-***----- p: .043 e: • f: ---------- p: 1 e: witch • f: --------*- p: .182

  9. ĐánhgiátrênngữliệuEuroparl • Thu thậptừCácVụKiệnNghịSĩChâuÂu • Cósẵntrênhttp://www.isi.edu/~koehn/ • 11 ngônngữ, 20 triệutừmỗingônngữ • Tậpkiểmnghiệm • Đức-Anh • 1755 câucóchiềudài 5-15

  10. Cácphươngpháphọcngữ • Cácngữcảmsinhliênkếttừ • Tươngtựvớicácmẫuliênkết[Och et al., 1999] • Cácngữcúpháp • Chỉcácngữcúphápđượchọc • Cùnghạnchếvớicácmôhìnhchuyểnđổicúphápđượcđềxuấtgầnđây • Liênkếtngữ • Môhìnhkết[Marcu and Wong, 2002]

  11. Cácngữcảmsinhliênkếttừ • Liênkếttừđượcphátsinhbằngcáchdùngmôhình IBM 4 • Liênkếthaichiềuef, fe • Liênkếtphầngiao • Thêmcácđiểmliênkếtbổ sung với heuristic • Thu thậpcáccặpngữphùhợpvớiliênkếttừ • Đâylàcácmẫuliênkếtmàkhôngcầncáclớptừ[Och et al., 1999]

  12. Cácngữcảmsinhliênkếttừ (2) • (Maria, Mary), (no, did not), (slap, dabaunabofetada), (a la, the), (bruja, witch), (verde, green), (Maria no, Mary did not), (no dabaunabofetada, did not slap), (dabaunabofetada a la, slap the), (brujaverde, green witch)

  13. Cácngữcảmsinhliênkếttừ (3) • (Maria no dabaunabofetada, Mary did not slap), (no dabaunabofetada a la, did not slap the), (a la brujaverde, the green witch), (Maria no dabaunabofetada a la, Mary did not slap the),

  14. Cácngữcảmsinhliênkếttừ (4) • (dabaunabofetada a la brujaverde, slap the green witch), (no dabaunabofetada a la brujaverde, did not slap the green witch), (Maria no dabaunabofetada a la brujaverde, Mary did not slap the green witch)

  15. Cácngữcúpháp • Cácngữcúphápmởrộngtoànbộthànhphầntrongcâyphântích • Độnglực • Chỉnhữngngữnàyđượcdùngcácmôhìnhchuyểnđổicúpháp • Vd: [Yamada and Knight, 2002] • Cúpháplợihay hại? • Tríchcáccặpngữcúpháp • Phântíchcảhaiphía (vớicácbộphântíchthốngkê) • Sửdụngliênkếttừtrướcđó • Giớihạncácngữthànhcácthànhphầncúpháptrongcâyphântích

  16. Liênkếtngữ Morgen fliege ich nachKanada ZurKonferenz 1 2 3 4 5 Tomorrow I will fly to the conference in Canada

  17. Liênkếtngữ (2) • Liênkếtngữtrựctiếpcủangữliệu song song[Marcu and Wong, 2002] • Generative Story • Mộtsốkháiniệmđượctạora • Mỗikháiniệmphátsinhmộtngữtiếnganhvàngoạingữ

  18. Thínghiệm • So sánhcácphươngphápchính • Chiềudàingữtốiđa • Trọngsốtừvựng • Các heuristic tríchxuấtngữ • Cácmôhìnhliênkếttừđơngiảnhơn • Cáccặpngônngữkhác

  19. So sánhcácphươngphápchính • Cùngbộgiảimã, cùngdữliệuhuấnluyện, cùngmôhìnhngônngữ • Ngoạitrừmôhình IBM 4 sửdụngbộgiảimãtham lam [Germann et al., 2001]

  20. So sánhcácphươngphápchính (2) • WAIPhtốtnhấtvàcácngữcúpháprấttệ • CácthínghiệmtiếptheochỉtrênWAIPh

  21. Chiềudàingữtốiđa • Giớihạntốiđachochiềudàingữ • Giớihạncàngcao bảngdịchngữcànglớn • Tấtcảcácbảngvẫncònphùhợpvớibộnhớcủacácmáyhiệnđại

  22. Chiềudàingữtốiđa (2) • Tácđộngcủagiớihạnlênchấtlượngdịch • Cảithiệnkhôngquánhiềunếuchiềudàitốiđavượtquá 3 • Độclậpvớikíchthướcngữliệuhuấnluyện

  23. Trọngsốtừvựng • Tăng xácsuấtdịchngữvớidịchtừvựng • Trọngsốtừvựng

  24. Trọngsốtừvựng • Tăngchấtlượngdịch

  25. Các heuristic tríchxuấtngữ • Nhắclại: liênkếttừdựatrêngiaocủacácliênkếtmôhình IBM 4 haichiều + heuristic bofetada bruja daba a Maria no una la verde Mary did not slap the green witch

  26. Các heuristic tríchngữ • Cácngữkhácnhauđượchọc, nếu heuristic tạoraliênkếttừđượcthayđổi • Nhữngthayđổitrongcác heuristic: • Chỉcholâncậntrựctiếp • Cũngcholâncậnchéo • Cũngchokhônglâncận • ThíchAnh-NgoạiNgữ hay NgoạiNgữ-Anh • Dùngxácsuấthay tầnsốtừvựng • Chỉmởrộngchonhữngtừchưađượcliênkết • …

  27. Các heuristic tríchngữ • Khôngcócảitiếnrõràngđốivớicácchiếnlược • Chênhlệchlớn, nhưng … • … phụthuộcvàokíchthướcngữliệu • … phụthuộcvàocặpngônngữ

  28. Cácmôhìnhliênkếttừđơngiảnhơn • Sửdụngcácmôhình IBM đơngiảnhơncholiênkếttừ • Khôngnhiềuvachạm, nếucácmôhìnhđơngiảnhơnđượcdùng • Cácmôhìnhđơngiảnhơntínhtoáníthơnnhiều

  29. Cáccặpngônngữkhác • Tìmảnhhưởngchocáccặpngônngữkhác, ngữliệukhác • Dịchngữtốthơnmôhình IBM 4 • Cósựtrợgiúptừvựng (+ khoảng 0.01 BLUE)

  30. Kếtluận • Dịchtheongữtốthơndịchtheotừ • Giớihạnngữcúphápcóhạirấtnhiều • Cácngữnhỏ(tăngtới3 từ) đủtốt • Trọngsốtừvựnghữuích • Các heuristic tríchngữquantrọng, nhưngcác heuristic tốtnhấtthayđổitrênkíchthướcngữliệu, cặpngônngữ

  31. Cảmơnđãlắngnghe

More Related