Tanya Jawab: Apa itu AI agentik saat ini, dan seperti apa yang kita harapkan dari AI tersebut?

Taruhan bola – Penerapan sistem perangkat lunak otomatis yang disebut agen AI belakangan ini mengalami ledakan pesat. Sebuah laporan pada November 2025 yang disusun oleh MIT Sloan School of Management dan Boston Consulting Group menemukan bahwa 35 persen perusahaan yang disurvei telah menerapkan agen AI, sementara 44 persen lainnya berencana untuk segera mengimplementasikan AI berbasis agen. Untuk memahami dasar-dasar dan dampak potensial dari alat-alat yang semakin populer ini, kami berbincang dengan Phillip Isola, seorang profesor madya di Departemen Teknik Elektro dan Ilmu Komputer (EECS) serta anggota Laboratorium Ilmu Komputer dan Kecerdasan Buatan (CSAIL), yang meneliti kecerdasan yang dimiliki agen AI, serta model dan mekanisme dasar yang menggerakkan sistem AI agen.

T: Apa itu AI agen dan apa perbedaannya dengan model AI generatif seperti ChatGPT dan Claude? J: AI agen adalah AI yang melakukan tindakan di dunia nyata. Tindakan ini bisa berupa tindakan fisik, seperti manipulasi robotik, atau tindakan digital, seperti memesan tiket pesawat.

Di t Di sisi lain, kita memandang AI generatif sebagai sesuatu yang menciptakan cerita, puisi, karya seni, dan gambar, bukan sebagai sesuatu yang mengambil tindakan atas nama kita. Istilah “agen” hanyalah sebutan umum. Istilah ini biasanya merujuk pada AI yang dirancang untuk membantu orang berinteraksi dengan aplikasi, situs web, atau dunia fisik.

Sebagian besar agen yang kita temui saat ini adalah agen digital, seperti agen layanan pelanggan yang dapat Anda ajak bicara mengenai keluhan produk. Sebagian besar perusahaan yang menawarkan layanan agen menggunakan beberapa model AI yang sama di balik layar dan memberinya kemampuan untuk mengambil tindakan serta mengingat apa yang telah terjadi. Seorang agen dimulai dengan sistem AI generatif dasar, seperti Claude, sebagai intinya.

Kemudian, perusahaan menambahkan berbagai “wrapper” di sekitar model dasar tersebut untuk produk atau aplikasi mereka. “Wrapper” tersebut bisa berupa alat-alat spesifik yang dapat digunakan oleh agen, dan alat-alat tersebut bergantung pada aplikasi yang bersangkutan. Mungkin agen tersebut memiliki akses ke kalkulator sehingga dapat menyelesaikan soal matematika, atau mungkin memiliki akses ke hard drive dan sistem operasi yang lebih kompleks sehingga dapat mengingat sebuah data keuangan perusahaan dan riwayat negosiasi bisnis.

Tantangan terbesar dalam mengembangkan AI yang memiliki kemampuan bertindak mandiri berasal dari kurangnya data pelatihan. Jika saya ingin membuat sistem yang bisa terhubung ke internet dan memesan tiket pesawat untuk saya, hal itu tampaknya cukup sederhana. Namun, kita tidak memiliki banyak data yang menjelaskan secara tepat bagaimana melakukannya — ke mana harus menggerakkan mouse, tombol mana yang harus diklik, apa yang harus dilakukan jika terjadi kesalahan, atau bagaimana menelepon seseorang dan menegosiasikan harga tiket pesawat.

Salah satu cara melatih sistem seperti ini adalah dengan meminta agen AI mengunjungi situs web maskapai penerbangan, mencoba berbagai hal, dan melihat apa yang berhasil dan apa yang tidak. Lingkungan-lingkungan ini sulit dimodelkan, sehingga seringkali agen harus belajar melalui coba-coba. T: Apa saja aplikasi AI agen yang menjanjikan?

J: Menurut saya, bidang yang paling sukses sejauh ini adalah agen pemrograman. Ini merupakan perkembangan dari AI generatif. Orang-orang melatih model bahasa pada kode, sehingga model tersebut dapat memprediksi apa yang akan dilakukan manusia untuk menyelesaikan masalah pemrograman masalah.

Selain itu, sebuah agen dapat belajar melakukan hal ini melalui siklus umpan balik di mana ia mencoba berbagai solusi dan memeriksa apakah jawabannya benar. Selama agen tersebut dapat memeriksa jawabannya, agen AI tersebut dapat menjalankan siklus coba-coba ini hingga menemukan strategi yang tepat. Namun, selalu ada keseimbangan antara mengotomatiskan pengambilan keputusan versus sekadar membantu dan memberi informasi kepada manusia.

Metode AI analitis, seperti sistem yang membantu memprediksi kemungkinan hasil dari suatu keputusan, pada dasarnya tidak bersifat agen, tetapi sangat informatif bagi para pembuat keputusan manusia. Untuk kasus-kasus yang berisiko tinggi atau sangat kritis terhadap keselamatan, seperti kedokteran, keamanan, kebijakan bisnis tingkat tinggi, dan sebagainya, teknologi mungkin belum siap untuk memungkinkan AI mengotomatisasi proses-proses tersebut sepenuhnya, atau kita mungkin bahkan tidak merasa nyaman dengan hal itu. T: Apakah ada risiko yang perlu kita pertimbangkan saat menggunakan agen AI?

J: Salah satu area risiko utama berasal dari fakta bahwa seringkali sangat mudah untuk membuat agen melakukan jenis pekerjaan tertentu untuk Anda. Dengan agen pemrograman, Anda bisa “membuat kode secara spontan” dan cukup meminta agen tersebut untuk membuatkan kode untuk Anda, sehingga Anda tidak perlu melakukan pekerjaan berat itu sendiri. Ada risiko besar bahwa, karena prosesnya begitu mudah, orang-orang tidak akan cukup bersusah payah untuk memverifikasi apakah kode tersebut berfungsi dengan benar.

Bug akan muncul, data pribadi akan bocor — hal ini sudah terjadi. Agen tidaklah sempurna, dalam arti bahwa mereka mungkin membuat kesalahan karena tidak terlatih dengan baik dan tidak tahu apa yang harus dilakukan. Namun, bahkan jika mereka sangat kompeten, jika manusia tidak menggunakannya dengan tepat atau memberikan instruksi yang terlalu samar, agen AI tersebut bisa saja membuat kesalahan karena kesalahan yang dilakukan manusia.

Jika manusia kurang terlibat dalam mempertimbangkan semua konsekuensinya, saya rasa kita mungkin akan lebih rentan melakukan kesalahan-kesalahan tersebut. Aspek tambahan lainnya adalah risiko hilangnya keterampilan. Belum jelas sejauh mana hal ini akan terjadi, tetapi ketika kita bergantung pada agen-agen tersebut untuk mengerjakan pekerjaan rumah, pemrograman, dan perhitungan matematika kita, kita mungkin kehilangan kemampuan untuk melakukannya sendiri, dan kita mungkin akan kehilangan kemampuan itu terlalu cepat karena teknologinya belum siap untuk sepenuhnya mengotomatiskan proses-proses tersebut.

T: Bagaimana masa depan AI agenik? A: Apa yang kita anggap sebagai AI agentik saat ini merujuk pada model bahasa besar yang menggunakan alat untuk berinteraksi dengan sistem digital dan fisik. Salah satu keterbatasan yang jelas adalah bahwa, di balik layar, model-model ini memiliki arsitektur model bahasa dan dilatih menggunakan data teks.

Untuk menciptakan agen AI yang lebih kuat lagi, kita mungkin perlu memodelkan video, gaya fisik, deret waktu, pemindaian radar, dan modalitas lainnya. Kita mungkin perlu memiliki model dengan arsitektur yang secara fundamental berbeda yang mampu menangani data kontinu, data berdimensi tinggi, data stokastik, dan sebagainya. Namun, di sisi lain, mungkin saja model pemrograman yang sangat baik dapat bertindak sebagai dalang untuk berinteraksi dengan sensor, aktuator, dan API web?

Mungkin, begitu Anda memiliki sistem penalaran super cerdas yang memahami matematika, bahasa, dan kode, Anda dapat memberinya kamera dan keyboard dan sistem tersebut akan menentukan langkah apa yang harus diambil dalam domain spasial. Apakah gelombang berikutnya dalam bidang kecerdasan buatan (AI) hanya akan berupa Claude yang dilengkapi dengan sensor, aktuator, dan alat-alat, ataukah akan menjadi sesuatu yang dibangun dengan cara baru dari nol? Itulah pertanyaan besar yang sedang dipikirkan oleh banyak orang di bidang kecerdasan buatan saat ini.