Pertama kali diterbitkan oleh Vectors of Mind.

Dengarkan Brian Kulis (#2)

Brian Kulis adalah profesor Pembelajaran Mesin di Boston University (dan mantan pembimbing saya). Ia juga pernah bekerja di industri sebagai bagian dari tim andal yang bertanggung jawab atas kata pemicu “wake” milik Amazon. Kami membahas sejarah AI, peran industri dibandingkan akademia dalam penelitian, dan keamanan AI. Ia telah menyaksikan bidangnya berkembang dari sekelompok kecil kutu buku matematika yang gagal mengklasifikasikan gambar anjing dan kucing menjadi teknologi terpanas di planet ini (yang mungkin akan membunuh kita semua). Sebagai mahasiswa pascasarjana, saya membaca diskusi fiksi ilmiah tentang kehancuran akibat AI di Astral Codex Ten dan terkadang membagikannya kepada Brian serta profesor-profesor lain (saya menyenangkan jika diajak ke pesta). Kini, skenario-skenario tersebut ditanggapi serius oleh tokoh-tokoh seperti Yeshua Bengio.

Kita terutama mendengar tentang keamanan AI dari minoritas vokal yang memiliki pandangan yang berkembang baik mengenai hal tersebut. Mereka adalah orang-orang yang menjadikan pendapat tentangnya sebagai salah satu hal yang bersedia mereka perdebatkan di depan umum. Namun, pada umumnya, mereka bukanlah orang-orang yang menjawab survei-survei yang banyak dikutip tentang AGI dan konsekuensinya. Ini merupakan gambaran berharga tentang cara seorang peneliti ML yang telah menyandang jabatan tetap memikirkannya.

Namun, saya tidak ingin menjual tulisan ini sebagai percakapan selama satu jam tentang p(doom); sebagian besar waktu kami habiskan untuk membahas hal-hal yang kurang fantastis. Ringkasan ChatGPT atas percakapan tersebut:

  1. Fakultas Komputasi dan Ilmu Data di BU: Kulis membahas pendirian unit baru ini di BU, yang berfokus pada komputasi dan ilmu data. Unit ini memfasilitasi kolaborasi lintas disiplin dan perekrutan mahasiswa dari berbagai divisi.
  2. Evolusi Pembelajaran Mesin: Sejarah pembelajaran mesin, yang bermula pada 1940-an dengan model matematis neuron oleh McCulloch dan Pitts, dibahas. Kulis menjelaskan perkembangan dari model-model awal hingga gelombang pembelajaran mendalam saat ini, dengan menyoroti pergeseran paradigma ML selama beberapa dekade.
  3. Transisi dari Sistem Pakar ke Model ML Saat Ini: Kulis menggambarkan transisi dari sistem pakar, yang lazim digunakan pada dekade 70-an dan 80-an, ke model pembelajaran mesin saat ini. Ia mencatat bahwa sistem pakar awal memiliki keterbatasan dan bersifat rapuh, sehingga tidak sesuai untuk penerapan di dunia nyata.
  4. Penelitian Pembelajaran Mesin dan Industri: Percakapan tersebut menyinggung perpindahan talenta AI dan ML antara akademia dan industri. Kulis membahas tantangan yang dihadapi akademia dalam mempertahankan staf pengajar AI, yang kerap tertarik pada peran-peran di industri.
  5. AI Statistik dan Metode Kernel: Wawancara tersebut membahas AI statistik dengan menekankan perannya dalam sejarah pembelajaran mesin. Kulis menjelaskan konsep model probabilistik dalam AI statistik serta keunggulannya dalam pembelajaran tak terawasi.
  6. Peran Akademia dalam Penelitian ML: Kulis merefleksikan peran akademia dalam lanskap penelitian pembelajaran mesin saat ini. Ia membahas tantangan yang dihadapi akademia, seperti ketidakmampuan melatih model-model besar akibat keterbatasan sumber daya, serta pentingnya pemikiran jangka panjang dalam penelitian.
  7. Risiko Eksistensial AI: Diskusi tersebut juga mencakup topik AI dan risiko eksistensial, dengan merujuk pada perdebatan dan pendapat di dalam komunitas ML, termasuk pendapat tokoh-tokoh terkenal seperti Hinton dan LeCun.
  8. Masa Depan Pembelajaran Mesin: Kulis menyampaikan pandangannya tentang berbagai aspek pembelajaran mesin, termasuk model bahasa besar, pembelajaran penguatan, AGI, dan pengobatan yang dipersonalisasi. Ia mengemukakan pendapatnya tentang hal-hal yang menurutnya dinilai terlalu tinggi atau kurang dihargai dalam bidang tersebut.