- Mamdani menyebut chatbot bisnis tersebut “tidak dapat digunakan secara fungsional” dan memerintahkan agar chatbot tersebut dihapus
- Chatbot berulang kali memberikan nasihat yang salah atau ilegal kepada pemilik bisnis kota
- Mantan Walikota Adams membela sistem tersebut, mengklaim bahwa perbaikan akan menjadikannya chatbot terbaik
Walikota New York Zohran Mamdani telah mengumumkan rencana untuk menutup sebuah bisnis bot obrolan diluncurkan pada masa pemerintahan Walikota Eric Adams, dan menyebutnya “secara fungsional tidak dapat digunakan.”
Pada konferensi pers baru-baru ini untuk mengatasi kesenjangan anggaran kota sebesar $12 miliar, Mamdani mengatakan bahwa chatbot telah merugikan kota tersebut sekitar setengah juta dolar karena memberikan panduan yang tidak dapat diandalkan kepada pemilik bisnis.
Bot tersebut, yang disebut MyCity Chatbot, pada awalnya dirancang untuk berfungsi sebagai alat produktivitas untuk pemilik bisnis, membantu mereka memahami peraturan dan regulasi kota.
Chatbot memberikan tanggapan yang salah dan ilegal
Pengujian oleh Markupnya Dan Kota pada tahun 2024 ditemukan bahwa mereka secara teratur memberikan nasihat yang tidak akurat atau berpotensi ilegal.
Misalnya, peraturan tersebut menyatakan bahwa tuan tanah dapat melakukan diskriminasi terhadap penyewa Pasal 8 dan memberikan nasihat yang salah kepada bisnis bahwa menolak pembayaran tunai adalah hal yang dapat diterima, meskipun ada undang-undang kota.
Alat ini juga salah menggambarkan peraturan ketenagakerjaan, seperti upah minimum, dan merekomendasikan tindakan yang dapat membuat pemilik bisnis menghadapi risiko hukum.
Mamdani menyebut kegagalan yang berulang-ulang ini sebagai pembenaran utama atas keputusannya menghentikan layanan tersebut.
Setelah laporan awal, pemerintahan Adams membela chatbot tersebut dan menjanjikan perbaikan di masa depan.
“Kami mengidentifikasi permasalahannya, kami akan memperbaikinya, dan kami akan memiliki sistem chatbot terbaik di dunia,” kata Adams.
Namun, pemerintah kota kemudian menambahkan penafian yang memperingatkan pengguna untuk tidak bergantung pada bot untuk mendapatkan nasihat hukum atau profesional.
Chatbot juga membatasi jenis pertanyaan yang akan dijawabnya, sehingga mengurangi kegunaannya sebagai a alat kolaborasi untuk bisnis.
Dibangun menggunakan Microsoft‘S platform hosting awanbot tersebut merupakan bagian dari perombakan digital MyCity yang dimaksudkan untuk menyederhanakan akses ke layanan kota.
Fondasi tersebut dilaporkan menelan biaya hampir $600.000, dan pemeliharaan yang berkelanjutan menambah biaya lebih lanjut, meskipun angka pastinya masih belum jelas.
Selain masalah keuangan, sistem ini sangat bergantung pada kontraktor luar dan kompleks perangkat lunak perkantoranyang berkontribusi terhadap inefisiensi dan keterbatasan kegunaan.
Meskipun ada beberapa pembatasan dan pembaruan, alat tersebut dilaporkan terus menghasilkan panduan yang berbahaya atau salah.
Keputusan Mamdani menyoroti risiko penerapan sistem otomatis sebagai alat yang dapat diakses publik tanpa pengawasan yang memadai.
Melalui Kota
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
