CEO Nvidia Jensen Huang: Keselamatan harus menjadi prioritas utama dalam pengembangan teknologi AI.

AYRSHIRE, IndonesiaSatu.co -- Raja Inggris Charles III mengingatkan para pemimpin industri kecerdasan buatan (Artificial Intelligence/AI) mengenai potensi ‘bahaya eksistensial’ jika teknologi AI jatuh ke tangan yang salah.

Disitir dari Reuters, peringatan itu disampaikan Raja Charles III saat menghadiri pertemuan puncak mengenai AI di Dumfries House, Ayrshire, Inggris, Rabu (16/9/2026).

Diberitakan, pertemuan tersebut membahas cara memastikan perkembangan AI dapat memberikan manfaat bagi masyarakat sekaligus mengantisipasi risiko yang ditimbulkan.

Sejumlah tokoh menghadiri pertemuan puncak tersebut, termasuk Menteri AI Inggris Kanishka Narayan, penasihat Paus, serta perwakilan perusahaan teknologi AI seperti Nvidia, OpenAI, dan Anthropic.

Pertemuan itu berlangsung di tengah meningkatnya perdebatan mengenai kemampuan model AI canggih dan kebutuhan untuk mengatur teknologi tersebut.

"Mereka yang telah menciptakan teknologi ini sekarang semakin memperingatkan bahwa AI berisiko mengembangkan kemampuan yang lebih gelap - bahkan mungkin untuk mengambil nyawa," kata Raja Charles kepada para eksekutif, seperti dikutip dari Reuters.

Ia menegaskan, kondisi tersebut menunjukkan adanya "urgensi" dalam "mempertimbangkan secara memadai bahaya eksistensial dari teknologi semacam itu jika jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi menimbulkan bencana".

"Tugas yang ada di hadapan Anda bukan hanya untuk memajukan teknologi, tetapi juga untuk memastikan bahwa teknologi tersebut tetap berada dalam pelayanan kemanusiaan, masyarakat, dan alam," imbuhnya.

Pertemuan tersebut juga membahas kemungkinan penyusunan prinsip-prinsip bersama untuk "memandu penerapan AI pada masa depan".

CEO Nvidia Jensen Huang juga menyampaikan pandangannya mengenai keamanan AI. Menurutnya, keselamatan harus menjadi prioritas utama dalam pengembangan teknologi.

Huang juga menilai perusahaan seharusnya menahan peluncuran produk jika teknologi tersebut belum cukup aman dan terus melakukan pengembangan sampai standar keamanan terpenuhi.

--- Aprilio G.