- AI medis Microsoft sudah mengungguli para ahli dalam diagnosis kompleks
- Pengawasan manusia tetap menjadi jawaban Microsoft terhadap ketakutan akan otonomi mesin
- Janji superintelligence yang lebih aman bergantung pada mekanisme kontrol yang belum teruji
Microsoft sedang mengalihkan perhatiannya dari perlombaan membangun AI untuk tujuan umum ke sesuatu yang disebut Humanist Superintelligence (HSI).
Di tempat yang baru postingan blog, perusahaan tersebut menguraikan bagaimana konsepnya bertujuan untuk menciptakan sistem yang melayani kepentingan manusia daripada mengejar otonomi terbuka.
Berbeda dengan “kecerdasan umum buatan”, yang oleh sebagian orang dianggap berpotensi tidak dapat dikendalikan, model Microsoft mencari keseimbangan antara inovasi dan pengawasan manusia.
Fokus baru pada kedokteran dan pendidikan
Microsoft mengatakan HSI adalah bentuk intelijen canggih yang dapat dikontrol dan digerakkan oleh tujuan yang berfokus pada penyelesaian masalah sosial tertentu.
Salah satu bidang pertama yang diharapkan perusahaan untuk membuktikan nilai HSI adalah diagnosis medis, dengan sistem diagnostiknya, MAI-DxO, yang dilaporkan mencapai tingkat keberhasilan 85% dalam tantangan medis yang kompleks – melampaui kinerja manusia.
Microsoft berpendapat bahwa sistem seperti itu dapat memperluas akses terhadap pengetahuan kesehatan tingkat pakar di seluruh dunia.
Perusahaan juga melihat potensi di bidang pendidikan, dengan membayangkan pendamping AI yang dapat menyesuaikan dengan gaya belajar setiap siswa, bekerja sama dengan guru untuk membuat pelajaran dan latihan yang disesuaikan.
Kedengarannya menjanjikan namun menimbulkan pertanyaan umum tentang privasi, ketergantungan, dan efek jangka panjang dari penggantian bagian-bagian interaksi manusia dengan sistem algoritmik, namun masih ada pertanyaan tentang bagaimana hal ini dapat terjadi. alat AI akan divalidasi, diatur, dan diintegrasikan ke dalam lingkungan klinis dunia nyata tanpa menimbulkan risiko baru.
Di balik layar, kecerdasan super bergantung pada kekuatan komputasi yang besar.
Ambisi HSI Microsoft akan bergantung pada skala besar pusat data dikemas dengan perangkat keras intensif CPU untuk memproses informasi dalam jumlah besar.
Perusahaan menyadari bahwa konsumsi listrik dapat meningkat lebih dari 30% pada tahun 2050, sebagian didorong oleh perluasan infrastruktur AI.
Ironisnya, teknologi yang diharapkan dapat mengoptimalkan produksi energi terbarukan juga meningkatkan permintaan terhadap teknologi tersebut.
Microsoft menegaskan AI akan membantu merancang baterai yang lebih efisien, mengurangi emisi karbon, dan mengelola jaringan energi, namun dampak bersihnya terhadap lingkungan masih belum pasti.
Mustafa Suleyman, kepala AI Microsoft, menyatakan bahwa “AI super cerdas” tidak boleh diberikan otonomi penuh, pengembangan diri, atau pengarahan diri sendiri.
Ia menyebut proyek ini sebagai proyek yang “humanis”, yang secara eksplisit dirancang untuk menghindari risiko sistem yang berkembang di luar kendali manusia.
Pernyataannya menunjukkan semakin besarnya kegelisahan di dunia teknologi mengenai cara mengelola model yang semakin kuat, karena gagasan pengendaliannya terdengar meyakinkan, namun tidak ada konsensus mengenai bagaimana batasan tersebut dapat diterapkan ketika suatu sistem mampu memodifikasi dirinya sendiri.
Visi Microsoft untuk Humanist Superintelligence menarik namun masih belum teruji, dan apakah Microsoft dapat memenuhi janjinya masih belum pasti.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
