Leveraging CNN and Bi-LSTM in Indonesian G2P Using Transformer

ALIEF ADITYA RACHMAN

Informasi Umum

Kode

21.04.1238

Klasifikasi

005 - information technology

Jenis

Karya Ilmiah - Skripsi (S1) - Reference

Subjek

Informatics

Dilihat

261 kali

Informasi Lainnya

Abstraksi

Kami menerapkan transformator yang disebut tensor2tensor toolkit, yang didasarkan pada Tensorflow, untuk mengatasi konversi Grapheme-to-Phoneme masalah. Studi ini melakukan konversi untuk menghasilkan simbol pengucapan untuk rangkaian huruf tertentu dalam bahasa Indonesia khususnya. Itu belum tersedianya sistem konversi G2P di Indonesia saat ini sedang dihadapi, sehingga dilakukan penelitian untuk membuat sistem yang dapat mengatasi masalah ini dengan menerapkan Transformer. Trafo memiliki arsitektur jaringan yang sederhana hanya berdasarkan perhatian mekanisme, jadi kami mengambil keuntungan dari menghilangkan konvolusi dan redundansi — jaringan saraf berulang dan konvolusi kompleks termasuk encoder dan decoder sebagai dasar untuk model transduksi urutan. Performa model yang sangat baik diperoleh melalui mekanisme perhatian dengan menghubungkan encoder dan decoder. Dengan menggunakan alat ini, kami melakukan perbandingan antara KBBI dan Kumpulan data kamus CMU. Kami mencapai tingkat kesalahan kata (WER) 6.7% pada kumpulan data KBBI setelah pelatihan selama tiga hari pada dua inti. CPU, yang memiliki akurasi 93.3%, meningkatkan hasil terbaik yang ada dari dataset kamus CMU untuk tingkat kesalahan kata 26%. Di dalam studi, kami melakukan evaluasi eksperimental rinci dengan menilai waktu pemrosesan dan tingkat kesalahan kata dan kemudian membandingkannya dengan keadaan seni. Dengan mendemonstrasikan Transformer ini, tool ini berhasil menggeneralisasi dan kemudian mengaplikasikannya ke beberapa elemen Indonesia dengan data pelatihan terbatas dan data pelatihan besar. Kami menyimpulkan bahwa model trafo cocok untuk menangani masalah G2P siap untuk tugas ini..