Peningkatan investasi dalam agen AI menunjukkan masa depan otomatisasi yang meluas, yang mungkin lebih transformatif daripada revolusi industri. Seperti inovasi teknologi lainnya, agen AI pasti akan menghadapi masalah dalam pengembangannya. Peningkatan berkelanjutan akan sangat penting untuk penggunaan yang bertanggung jawab dan mewujudkan potensi penuh agen AI.
Di Consensus Hong Kong, BeInCrypto mewawancarai Andrei Grachev, Managing Partner di DWF Labs, tentang tantangan utama yang dihadapi agen AI dalam mencapai adopsi massal dan seperti apa penggunaan yang meluas nantinya.
Sektor Teknologi Tradisional dan Web3 Merangkul AI
Saat ini, bisa dikatakan bahwa adopsi kecerdasan buatan (AI) akan segera menjadi tak terhindarkan. Raksasa teknologi seperti Meta, Amazon, Alphabet, dan Microsoft telah mengumumkan rencana untuk menginvestasikan hingga US$320 miliar dalam AI dan pusat data pada tahun 2025.
Selama minggu pertamanya menjabat, Presiden AS Trump mengumumkan Stargate, sebuah usaha patungan swasta baru yang berfokus pada pengembangan pusat data AI. Usaha ini, yang terdiri dari OpenAI, Softbank, dan Oracle, berencana membangun hingga 20 pusat data AI besar di seluruh Amerika Serikat.
Investasi awal diperkirakan mencapai US$100 miliar, dan rencana ekspansi dapat meningkatkan totalnya menjadi US$500 miliar pada tahun 2029.
Proyek Web3 juga melakukan investasi serupa dalam AI. Pada bulan Desember, DWF Labs, perusahaan modal ventura kripto terkemuka, meluncurkan dana agen AI senilai US$20 juta untuk mempercepat inovasi dalam teknologi AI otonom.
Awal bulan ini, NEAR Foundation, yang mendukung protokol NEAR, juga mengumumkan dana senilai US$20 juta yang berfokus pada pengembangan agen otonom dan dapat diverifikasi yang dibangun di atas teknologi NEAR.
“Sejarah menunjukkan bahwa segala sesuatu yang dapat diotomatisasi akan diotomatisasi, dan pasti beberapa proses bisnis dan kehidupan normal akan diambil alih oleh agen AI,” ujar Grachev kepada BeInCrypto.
Namun, seiring percepatan pengembangan AI, potensi penyalahgunaannya menjadi perhatian yang semakin besar.
Pemanfaatan Jahat Agen AI
Di Web3, agen AI sudah dengan cepat menjadi arus utama. Mereka menawarkan berbagai kemampuan, mulai dari analisis pasar hingga perdagangan kripto otonom.
Namun, integrasi yang semakin meningkat ini juga menghadirkan tantangan kritis. Penyalahgunaan AI oleh pelaku jahat menjadi perhatian utama, mencakup skenario mulai dari kampanye phishing sederhana hingga serangan ransomware yang canggih.
Ketersediaan luas AI generatif sejak akhir 2022 telah mengubah secara fundamental pembuatan konten sambil juga menarik pelaku jahat yang ingin mengeksploitasi teknologi tersebut. Demokratisasi daya komputasi ini telah meningkatkan kemampuan musuh dan berpotensi menurunkan hambatan masuk bagi pelaku ancaman yang kurang canggih.
Menurut laporan Entrust, pemalsuan dokumen digital yang difasilitasi oleh alat AI kini melebihi pemalsuan fisik, dengan peningkatan 244% dari tahun ke tahun pada 2024. Sementara itu, deepfake menyumbang 40% dari semua penipuan biometrik.
“Ini sudah digunakan untuk penipuan. Ini digunakan untuk panggilan video saat menyamar sebagai orang lain dan menyamar suara mereka,” ucap Grachev.
Contoh eksploitasi semacam ini sudah menjadi berita utama. Awal bulan ini, seorang pekerja keuangan di perusahaan multinasional di Hong Kong tertipu untuk mengotorisasi pembayaran US$25 juta kepada penipu menggunakan teknologi deepfake.
Pekerja tersebut menghadiri panggilan video dengan individu yang dia yakini sebagai rekan kerja, termasuk kepala keuangan perusahaan. Meskipun awalnya ragu, pekerja tersebut melanjutkan pembayaran setelah peserta lain tampak dan terdengar otentik, menurut laporan. Kemudian diketahui bahwa semua peserta adalah fabricasi deepfake.
Dari Adopsi Awal ke Penerimaan Mainstream
Grachev percaya bahwa penggunaan jahat semacam itu tidak bisa dihindari. Dia mencatat bahwa perkembangan teknologi sering disertai dengan kesalahan awal, yang berkurang seiring dengan kematangan teknologi. Grachev memberikan dua contoh berbeda untuk membuktikan pendapatnya: tahap awal World Wide Web dan Bitcoin.
“Kita harus ingat bahwa Internet dimulai dari situs porno. Itu seperti Bitcoin pertama, yang dimulai dari pengedar narkoba dan kemudian membaik,” terang dia.
Beberapa laporan sejalan dengan Grachev. Mereka menyarankan bahwa industri hiburan dewasa memainkan peran penting dalam adopsi awal dan pengembangan Internet. Selain menyediakan basis konsumen, industri ini mempelopori teknologi seperti VCR, streaming video, realitas virtual, dan segala bentuk komunikasi.
Pornografi bertindak sebagai alat onboarding. Industri hiburan dewasa secara historis mendorong adopsi konsumen terhadap teknologi baru.
Penerimaan awal dan penerapan inovasi, terutama ketika berhasil memenuhi permintaan audiensnya, sering kali mengarah pada adopsi arus utama yang lebih luas.
“Itu dimulai dengan kesenangan, tetapi kesenangan membawa banyak orang. Kemudian Anda bisa membangun sesuatu pada audiens ini,” papar Grachev.
Seiring waktu, langkah-langkah pengamanan juga diterapkan untuk membatasi frekuensi dan aksesibilitas hiburan dewasa. Namun, ini tetap menjadi salah satu dari beberapa layanan yang disediakan Internet saat ini.
Perjalanan Bitcoin Dari Darknet ke Disrupsi
Evolusi Bitcoin sangat mirip dengan kasus penggunaan awal Internet. Adopsi awal Bitcoin sangat terkait dengan pasar darknet dan aktivitas ilegal, termasuk perdagangan narkoba, penipuan, dan pencucian uang. Sifatnya yang pseudonim dan kemudahan transfer dana global membuatnya menarik bagi para kriminal.
Meski terus digunakan dalam aktivitas kriminal, Bitcoin telah menemukan banyak aplikasi yang sah. Teknologi blockchain yang mendasari aset kripto menyediakan solusi untuk masalah dunia nyata dan mengganggu sistem keuangan tradisional.
Walaupun industri ini masih sangat baru, aplikasi cryptocurrency dan blockchain akan terus berkembang. Menurut Garchev, hal yang sama akan terjadi dengan penerapan teknologi AI secara bertahap. Baginya, kesalahan harus diterima untuk belajar darinya dan menyesuaikan diri dengan tepat.
“Kita harus selalu ingat bahwa penipuan terjadi terlebih dahulu dan kemudian orang mulai berpikir tentang cara mencegahnya. Tentu saja itu akan terjadi, tapi ini adalah proses normal, ini adalah kurva pembelajaran,” ujar Grachev.
Namun, mengetahui situasi ini akan terjadi di masa depan juga menimbulkan pertanyaan tentang siapa yang harus bertanggung jawab.
Kekhawatiran Tanggung Jawab
Menentukan tanggung jawab ketika kerugian terjadi akibat tindakan agen adalah masalah hukum dan etika yang kompleks. Pertanyaan tentang bagaimana menahan AI bertanggung jawab pasti muncul.
Kompleksitas sistem AI menciptakan tantangan dalam menentukan tanggung jawab atas kerugian. Sifat “kotak hitam” mereka, perilaku yang tidak dapat diprediksi, dan kemampuan belajar yang berkelanjutan membuat sulit untuk menerapkan ide-ide umum tentang siapa yang bersalah ketika sesuatu tidak berjalan dengan baik.
Selain itu, keterlibatan banyak pihak dalam pengembangan dan penerapan AI memperumit penilaian tanggung jawab, membuat sulit untuk menentukan kesalahan dalam kegagalan AI.
Tanggung jawab bisa terletak pada produsen untuk cacat desain atau produksi, pengembang perangkat lunak untuk masalah dengan kode, atau pengguna karena tidak mengikuti instruksi, menginstal pembaruan, atau menjaga keamanan.
“Saya pikir semua ini terlalu baru, dan saya pikir kita harus bisa belajar darinya. Kita harus bisa menghentikan beberapa agen AI jika diperlukan. Tapi dari sudut pandang saya, jika tidak ada niat buruk untuk membuatnya, tidak ada yang bertanggung jawab karena ini adalah sesuatu yang benar-benar baru,” terang Grachev kepada BeInCrypto.
Namun, menurutnya, situasi ini perlu dikelola dengan hati-hati untuk menghindari dampak pada inovasi yang berkelanjutan.
“Jika Anda menyalahkan pengusaha ini, itu akan membunuh inovasi karena orang akan takut. Tapi jika itu bekerja dengan cara yang buruk, benar, itu bisa akhirnya bekerja. Kita perlu memiliki cara untuk menghentikannya, belajar, memperbaiki, dan belajar kembali,” tambah Grachev.
Namun, garis tipis ini tetap sangat tipis, terutama dalam skenario yang lebih ekstrem.
Mengatasi Masalah Kepercayaan untuk Adopsi AI yang Bertanggung Jawab
Ketakutan umum ketika membahas masa depan kecerdasan buatan adalah situasi di mana agen AI menjadi lebih kuat daripada manusia.
“Ada banyak film tentang itu. Jika kita berbicara tentang, katakanlah, kontrol polisi atau pemerintah, atau beberapa tentara dalam semacam perang, tentu saja otomatisasi adalah ketakutan besar. Beberapa hal dapat diotomatisasi hingga tingkat yang sangat besar di mana mereka dapat menyakiti manusia,” ucap Grachev.
Ketika ditanya apakah skenario seperti ini bisa terjadi, Grachev mengatakan bahwa, secara teori, itu bisa. Namun, dia mengakui bahwa dia tidak bisa tahu apa yang akan terjadi di masa depan.
Namun, situasi seperti ini melambangkan masalah kepercayaan mendasar antara manusia dan kecerdasan buatan. Grachev mengatakan cara terbaik untuk mendekati masalah ini adalah dengan mengekspos manusia pada kasus penggunaan di mana AI benar-benar dapat membantu.
“AI bisa sulit dipercaya oleh orang-orang. Itulah mengapa harus dimulai dengan sesuatu yang sederhana, karena kepercayaan pada agen AI tidak akan terbangun ketika seseorang menjelaskan bahwa itu dapat dipercaya. Orang harus terbiasa menggunakannya. Misalnya, jika Anda berbicara tentang kripto, Anda bisa meluncurkan meme, katakanlah di Pump.fun, tapi mengapa tidak meluncurkannya dengan pesan suara? Dengan agen AI, cukup kirim pesan suara yang mengatakan ‘tolong luncurkan ini dan itu,’ dan itu diluncurkan. Dan kemudian langkah berikutnya [adalah] mempercayai agen dengan beberapa keputusan yang lebih penting,” ujarnya.
Pada akhirnya, perjalanan menuju adopsi AI yang luas pasti akan ditandai dengan kemajuan luar biasa dan tantangan yang tak terduga.
Menyeimbangkan inovasi dengan penerapan yang bertanggung jawab di sektor yang berkembang ini akan menjadi kunci untuk membentuk masa depan di mana AI bermanfaat bagi seluruh umat manusia.
Penyangkalan
Seluruh informasi yang terkandung dalam situs kami dipublikasikan dengan niat baik dan bertujuan memberikan informasi umum semata. Tindakan apa pun yang dilakukan oleh para pembaca atas informasi dari situs kami merupakan tanggung jawab mereka pribadi.
Selain itu, sebagian artikel di situs ini merupakan hasil terjemahan AI dari versi asli BeInCrypto yang berbahasa Inggris.
