Perdebatan soal apakah pengembangan AI perlu diperlambat bukan lagi wacana pinggiran. Pada September 2026, CEO tiga perusahaan AI terbesar menyuarakan kekhawatiran yang sama: kemampuan model AI berkembang lebih cepat daripada sistem keselamatan yang mengawasinya. Jawaban atas pertanyaan “haruskah AI diperlambat” bergantung pada satu persoalan inti, yaitu apakah manusia masih punya cukup waktu untuk menguji, memahami, dan mengendalikan teknologi yang mereka ciptakan sendiri.

Lebih dari 1.200 karyawan perusahaan AI menandatangani petisi “Pacing the Frontier” yang meminta pemerintah AS membantu mengatur laju pengembangan. Petisi itu keluar pada Juli 2026, seperti dilaporkan Axios. Beberapa pekan kemudian, CEO Anthropic Dario Amodei menerbitkan esai sepanjang 3.800 kata yang menyerukan hal serupa. CEO OpenAI Sam Altman dan pendiri X AI Elon Musk menyatakan persetujuan.

Apa Itu Frontier AI dan Mengapa Kecepatannya Dikhawatirkan?

Frontier AI adalah sebutan untuk sistem AI dengan kemampuan paling maju yang sedang dikembangkan perusahaan seperti OpenAI, Anthropic, dan Google DeepMind. Model-model ini bukan sekadar menghasilkan teks atau gambar. Mereka menulis kode, mengoperasikan komputer, menggunakan berbagai perangkat lunak, dan menjalankan tugas secara mandiri tanpa perlu diperintahkan langkah demi langkah. Perbedaan antara chatbot yang menjawab pertanyaan dan agen AI yang bertindak sendiri di dunia digital menjadi semakin tipis.

Kekhawatiran utama berkaitan dengan kemampuan yang disebut recursive self-improvement. CEO Anthropic Dario Amodei menjelaskan konsep ini dalam esainya “We Must Pace the Frontier“ yang terbit pada 12 September 2026. Menurut Amodei, AI mulai mampu membantu proses pengembangan generasi AI berikutnya. Dinamika ini sudah terjadi di berbagai perusahaan AI, termasuk Anthropic sendiri. Semakin banyak pekerjaan pengembangan yang dikerjakan AI, semakin cepat kemampuan model meningkat. Tim keselamatan kesulitan mengimbangi laju tersebut.

Perlu dicatat bahwa recursive self-improvement masih menjadi bahan perdebatan di kalangan peneliti. Implikasi ekstremnya belum pasti. Namun kekhawatiran Amodei mendapat bukti yang sulit diabaikan. Pada Juli 2026, OpenAI melaporkan bahwa agen AI-nya keluar dari lingkungan digital yang membatasinya (sandbox) saat menjalankan pengujian. Agen tersebut menghubungkan diri ke internet dan menyusup ke Hugging Face, platform yang digunakan pengembang untuk menyimpan dan mengembangkan kode. Business Standard mencatat pada 14 September 2026 bahwa insiden ini menjadi pemicu utama mengapa para pemimpin industri menyuarakan perlunya perlambatan.

Siapa yang Mulai Mempertanyakan Laju Pengembangan AI?

Suara-suara yang mempertanyakan kecepatan pengembangan AI datang dari orang-orang yang bekerja langsung di perusahaan AI, bukan hanya dari pengamat luar. Pada 8 September 2026, peneliti Anthropic Jacob Coxon mengundurkan diri dan menyampaikan kekhawatirannya secara terbuka. Axios melaporkan bahwa Coxon baru empat bulan bekerja di Anthropic dan meninggalkan perusahaan dua bulan sebelum ekuitasnya dijadwalkan vesting. Coxon menuduh perusahaan-perusahaan AI “mempertaruhkan nyawa manusia” dalam perlombaan menuju model yang mampu memperbaiki dirinya sendiri. Sebelumnya, ia menghabiskan tiga tahun bekerja di bidang pretraining di OpenAI dan Anthropic. Unggahannya di X mendapat lebih dari 100 juta views, menurut IBTimes.

Sebelum Coxon bicara, Chief Scientist OpenAI Jakub Pachocki sudah menerbitkan esai berjudul “An Alien Mind” pada 6 September 2026. Pachocki menyoroti bahwa belum ada laboratorium AI yang mampu menyelesaikan persoalan alignment secara menyeluruh. Ia mengusulkan safety bars: batas keselamatan yang harus dipenuhi sebelum pengembang melanjutkan ke tahap berikutnya. Pengawasannya melibatkan auditor independen, lembaga pemerintah, atau badan internasional. Pada 14 September 2026, mantan peneliti Google DeepMind Bilal Chughtai menambahkan suara serupa. Chughtai, yang meninggalkan DeepMind pada Juli 2026, menulis di X bahwa ia “sungguh-sungguh percaya AI berpotensi membunuh kita semua,” sebagaimana diberitakan Quartz.

Gelombang kekhawatiran individu ini berujung pada aksi kolektif. Pada 28-29 Juli 2026, lebih dari 1.200 karyawan perusahaan AI menandatangani petisi “Pacing the Frontier,” berdasarkan laporan Axios. Petisi itu meminta pemerintah AS menyiapkan kerangka kerja untuk mengatur laju pengembangan AI otomatis. OpenAI dan Anthropic mendukungnya secara resmi sebagai perusahaan. CEO OpenAI Sam Altman menyatakan telah membahas “kebutuhan untuk mengatur laju” pengembangan AI dengan pejabat Gedung Putih. Pendiri SpaceX dan X AI Elon Musk merespons dengan singkat: “Dario benar.”

Demis Hassabis, pendiri sekaligus pimpinan Google DeepMind, turut menyatakan dukungan. Menurutnya, meski rincian teknis masih perlu dimatangkan, arah dari usulan perlambatan sudah tepat untuk merespons situasi saat ini, sebagaimana dikutip The Guardian pada 14 September 2026.

Apa yang Dimaksud dengan Pacing?

Pacing bukan moratorium. Perbedaan ini penting untuk dipahami karena keduanya sering dicampuradukkan dalam percakapan publik.

Pada 2023 Future of Life Institute menyerukan penghentian pengembangan AI selama enam bulan. Seruan itu tidak menghasilkan aksi nyata. Tidak ada mekanisme koordinasi, dan tidak ada perusahaan yang bersedia berhenti sementara pesaingnya tetap bergerak. Elon Musk termasuk penandatangan seruan 2023 itu, tetapi X AI tetap melanjutkan pengembangan. Amodei sendiri menulis bahwa pada 2023, moratorium memang belum masuk akal karena model AI pada saat itu belum mampu bertindak secara koheren sebagai agen. Situasi 2026 berbeda. Model saat ini, menurut Amodei, sudah menjadi “materi yang sangat kaya untuk memahami cara membangun AI dengan baik.” Konsep pacing yang ia usulkan pada 2026 mengambil pendekatan berbeda dari moratorium.

Amodei tidak meminta pengembangan dihentikan. Ia mengusulkan tiga lapisan mekanisme pengamanan. Lapisan pertama: evaluator pihak ketiga yang mendapat akses permanen ke proses pengembangan, bukan sekadar audit sesekali, melainkan kehadiran terus-menerus layaknya karyawan. Anthropic berkomitmen menjalankan langkah ini secara sepihak tanpa menunggu pesaing. Lapisan kedua: koordinasi antar-perusahaan AI di negara-negara demokratis untuk menetapkan standar keselamatan bersama. Amodei mengusulkan pemerintah AS memberi pengecualian antimonopoli agar perusahaan dapat berkoordinasi tanpa melanggar hukum persaingan. Lapisan ketiga: koordinasi global yang mencakup pemerintahan otoriter, terutama China.

Gagasan ini mulai diterjemahkan ke dalam standar konkret. AI Evaluator Forum menerbitkan AEF-1, sebuah baseline untuk evaluasi independen yang mencakup akses evaluator, konflik kepentingan, hubungan pendanaan, dan transparansi, seperti dilaporkan Latent Space pada 14 September 2026. AEF-1 penting karena mengubah komitmen keselamatan dari pernyataan perusahaan menjadi sesuatu yang dapat diaudit pihak luar. Tanpa standar semacam ini, publik hanya bisa percaya pada klaim perusahaan tanpa cara memverifikasinya. Altman juga mengumumkan bahwa OpenAI mulai menyusun safety cases sebelum menjalankan pelatihan frontier yang diperkirakan meningkatkan kemampuan model secara signifikan.

Dilema Kompetisi: Siapa yang Berani Melambat Duluan?

Argumen pacing terdengar logis di atas kertas. Dalam praktiknya, perusahaan AI menghadapi dilema yang sulit diselesaikan secara sepihak.

OpenAI, Anthropic, Google DeepMind, dan perusahaan lainnya bersaing memperebutkan investasi, talenta, dan posisi strategis. Perusahaan yang memperlambat pengembangan sementara pesaingnya tetap melaju berisiko kehilangan keunggulan. Axios menggambarkan situasi ini sebagai prisoner’s dilemma: setiap perusahaan tahu perlambatan kolektif lebih baik, tapi tidak ada yang mau melangkah duluan tanpa jaminan yang lain ikut.

Dimensi geopolitik menambah kerumitan. Presiden AS Donald Trump menyatakan pada 14 September 2026 bahwa “siapa yang memenangkan AI, memenangkan segalanya,” meski ia mengakui guardrails tetap diperlukan, menurut Eurasia Review. Juru bicara Kementerian Luar Negeri China Guo Jiakun merespons seruan perlambatan dengan nada berbeda. Ia menyebut kekhawatiran perusahaan-perusahaan AS sebagai “tindakan menakut-nakuti” yang menghambat pengembangan AI global, demikian dilaporkan Antara pada 14 September 2026. China sendiri menyebut 2026 sebagai “tahun pertama penerapan agen AI” dan terus mendorong adopsi massal.

Pasar keuangan bereaksi cepat terhadap seruan perlambatan. Pada 14 September 2026, saham Nvidia turun 3,3 persen. AMD melemah 4 persen. Saham SoftBank, investor besar di balik OpenAI, anjlok 13 persen. Indeks semikonduktor Philadelphia (SOX) dan indeks Kospi Korea Selatan turut terkoreksi, berdasarkan data CNN Indonesia. Sebaliknya, saham perusahaan yang sebelumnya dianggap terancam AI justru menguat. WPP naik 5 persen dan Relx naik 5 persen di bursa London. Pasar membaca seruan perlambatan sebagai sinyal bahwa laju belanja modal AI berpotensi menurun.

Pada 15 September 2026 bahwa OpenAI telah berdiskusi dengan Anthropic dan Google DeepMind mengenai langkah-langkah penanganan keselamatan AI. Chris Lehane, kepala kebijakan global OpenAI, menyatakan bahwa diskusi tersebut sudah berlangsung selama beberapa minggu. Lehane menambahkan bahwa OpenAI tidak melihat perlunya pengecualian antimonopoli untuk koordinasi keselamatan antar-perusahaan.

Keputusan Sam Altman untuk menunda rencana IPO OpenAI pada 2026 memperkuat sinyal tersebut. Altman menyatakan bahwa “dengan semua yang sedang terjadi terkait keselamatan, sekarang bukan saat yang tepat untuk menjadi perusahaan publik,” menurut Fortune. IPO OpenAI sebelumnya diperkirakan menjadi yang terbesar sepanjang sejarah, dengan target valuasi lebih dari 2 triliun dolar AS, sebagaimana diberitakan The Guardian. Rangkaian peristiwa ini, dari pengunduran diri peneliti hingga anjloknya saham, menunjukkan sesuatu yang melampaui isu teknis: cara media dan publik membicarakan perusahaan AI sedang berubah.

Dari Berita Inovasi ke Berita Risiko: Ketika Narasi Berubah

Perdebatan tentang pacing menyimpan dimensi yang jarang dibahas oleh media yang meliputnya, yaitu pergeseran narasi media itu sendiri tentang perusahaan AI. Sepanjang 2024 dan awal 2025, pemberitaan tentang perusahaan AI didominasi oleh peluncuran model baru, kemampuan yang semakin canggih, dan janji peningkatan produktivitas. Framing utamanya adalah inovasi. Pertengahan 2026 mengubah pola itu. Satu peristiwa kini dapat menggeser seluruh konteks percakapan publik tentang sebuah perusahaan.

Pengunduran diri Jacob Coxon menunjukkan pola tersebut dengan jelas. Axios melaporkan bahwa unggahan Coxon tentang keputusannya meninggalkan Anthropic mendapat perhatian publik yang sangat besar. Peristiwa yang dimulai sebagai berita karier seorang peneliti berusia 27 tahun berubah menjadi percakapan tentang keselamatan AI, kebijakan perusahaan, dan regulasi teknologi. Dalam hitungan hari, media yang sebelumnya menulis tentang kemampuan Claude (produk Anthropic) mulai menulis tentang risiko yang dikhawatirkan oleh karyawan Anthropic sendiri.

Pergeseran seperti ini bisa dipetakan dan diukur. Perusahaan yang sebelumnya dikenal karena inovasinya kini dibicarakan dalam konteks risiko, regulasi, dan tata kelola. Kata kunci yang muncul bersamaan dalam pemberitaan bergeser dari “kemampuan baru” dan “kecepatan” ke “keselamatan,” “pengawasan,” dan “perlambatan.” Pola ini bukan sekadar perubahan topik. Ini adalah pergeseran cara media membingkai sebuah industri.

Bagi perusahaan teknologi, perubahan narasi semacam ini membawa konsekuensi nyata. Investor, regulator, dan publik membaca framing media sebagai sinyal tentang arah industri. Penurunan saham Nvidia sebesar 3,3 persen pada hari seruan Amodei terbit, sebagaimana dilaporkan CNN Indonesia, menunjukkan seberapa cepat perubahan narasi diterjemahkan menjadi keputusan pasar.

Ketika narasi dominan bergeser dari inovasi ke risiko, perusahaan perlu menangkap perubahan tersebut lebih awal. Yang perlu dipantau bukan sekadar jumlah artikel yang terbit. Yang lebih penting adalah bagaimana konteks dan framing di dalam artikel tersebut berubah dari waktu ke waktu. Media mana yang paling banyak membicarakan isu? Topik apa yang muncul bersamaan? Apakah sebuah isu mulai bergeser dari pembahasan produk menuju reputasi atau regulasi? Data pemberitaan dapat membantu perusahaan melihat pergeseran tersebut sebelum menjadi krisis, bukan sesudahnya.

Jadi, Haruskah AI Diperlambat?

Perdebatan ini belum menghasilkan jawaban yang diterima semua pihak. Kubu pacing berpendapat bahwa memperlambat laju frontier AI memberi waktu untuk memperkuat alignment, interpretabilitas, dan pengujian keamanan. Tujuannya agar kemampuan model tidak melampaui batas yang bisa dipahami dan dikendalikan manusia. Kubu yang menolak perlambatan melihat risiko berbeda: kehilangan keunggulan kompetitif, terutama ketika negara seperti China terus mendorong pengembangan tanpa jeda. Analis Bank of America, misalnya, menyatakan tetap yakin bahwa persaingan, bukan regulasi, yang akan terus mendorong permintaan AI, menurut Investing.com.

Yang semakin sulit diabaikan adalah jarak antara kecepatan kemampuan AI dan kecepatan manusia menguji serta mengaturnya. Jarak itu terus melebar. Pertanyaan yang mungkin lebih produktif bukan “haruskah AI diperlambat atau tidak.” Pertanyaan yang lebih tepat: apakah sistem keselamatan, evaluasi, tata kelola, dan komunikasi publik mampu berkembang dengan kecepatan yang sama dengan kemampuan model AI?

Perdebatan tentang masa depan AI tidak lagi hanya berkisar pada siapa yang mampu membuat model paling canggih. Pertanyaan berikutnya adalah apakah mekanisme pengawasan bisa mengimbangi. Ketika kemampuan AI semakin maju, kemampuan manusia untuk mengawasi dan mengendalikannya tidak boleh tertinggal. Melacak pergeseran narasi publik tentang AI adalah salah satu cara memastikan perhatian terhadap persoalan ini tetap ada, bukan hanya muncul sesaat lalu menghilang setelah siklus berita berganti.

Kontributor

Muhammad Reza

Aan K. Riyadi