Blog

  1. Penurunan Otomatis

    Penggunaan deep learning tidak bisa lepas dari algoritma gradient descent sebagai algoritma pelatihan model jaringan saraf tiruan (JST). Agar dapat bekerja, gradient descent memerlukan turunan dari fungsi loss yang ingin dicari nilai minimumnya. Pustaka-pustaka deep learning seperti PyTorch, Dynet, dan sejenisnya mampu menghitung dengan cepat turunan dari fungsi loss ini …


  2. Penerapan Pendekatan Mean-Field

    Ketika melakukan pemodelan probabilistik, kita biasanya perlu menghitung distribusi posterior, yakni distribusi peluang dari variabel laten/tersembunyi setelah mengamati data. Seringkali perhitungan ini tidak punya solusi tertutup dan juga intractable alias tidak bisa dikomputasi secara efisien karena adanya kombinasi nilai yang terlalu banyak. Pendekatan mean-field adalah salah satu cara untuk …


  3. Implementing Matrix-Tree Theorem in PyTorch

    If you’re working on non-projective graph-based parsing, you may encounter a problem where you want to compute a quantity which can be factored into a sum over (non-projective) trees. One such quantity is the partition function of a CRF over trees. You realise that this isn’t straightforward because …


  4. Pelajaran Setahun S3

    Gak terasa sudah satu tahun saya jadi mahasiswa S3. Berikut adalah pelajaran selama setahun terakhir ini.



  5. Hal Menarik dari Buku “Emotional First Aid”

    Beberapa waktu lalu, saya selesai membaca buku Emotional First Aid, sebuah buku yang, sesuai judulnya, memberikan pengetahuan tentang pertolongan pertama pada luka-luka emosional. Dalam buku ini, ada tujuh luka emosional yang dibahas: penolakan, kesepian, kehilangan dan trauma, rasa bersalah, ruminasi, kegagalan, dan rasa rendah diri. Selain menjelaskan gejala-gejala yang ditimbulkan …


  6. Penjelasan Tambahan dari Wawancara DataPods

    Pekan lalu, saya menjadi pembicara dalam podcast DataPods dari komunitas Data Science Indonesia. Episodenya dapat didengarkan di Spotify dengan judul episode Towards Indonesian Natural Language Processing. Pada tulisan ini, saya ingin memberikan beberapa penjelasan tambahan bagi jawaban-jawaban saya dalam episode tersebut. Tidak semua jawaban ada tambahannya; saya hanya mendaftar yang …


  7. Mengapa Saya Memilih NLP?

    Akhir Desember lalu, ada sesi wawancara akhir tahun yang diselenggarakan oleh bagian SDM di kantor saya. Pada wawancara ini, saya diberikan pertanyaan-pertanyaan seperti: apa yang disukai selama bekerja, adakah saran perbaikan, dan sejenisnya. Saya tidak ingat persisnya tapi pada sesi itu saya sempat membicarakan tentang pengolahan bahasa manusia/natural language …