Google baru saja meluncurkan Fitur Baru AI, sebuah fitur yang dirancang untuk memberikan hasil pencarian yang dihasilkan AI. Namun, sejak peluncurannya, fitur ini telah menuai banyak kritikan karena menghasilkan jawaban yang lucu dan bahkan berbahaya.
Pengguna media sosial dengan cepat menunjukkan contoh jawaban lucu yang dihasilkan Fitur Baru AI. Namun, beberapa orang kemudian menyadari bahwa ada juga beberapa jawaban yang mengkhawatirkan.
Masalahnya terletak pada cara kerja Fitur Baru AI. Fitur ini menggunakan algoritme pembelajaran mesin yang dilatih untuk mengenali kata dan frasa dalam konteks tertentu. Ketika pengguna mengajukan pertanyaan, AI akan menghasilkan jawaban yang diharapkan sesuai dengan pertanyaan tersebut.
Namun, algoritme ini tidak dapat membedakan antara situs berita serius dan situs satir atau humor. Akibatnya, Fitur Baru AI sering kali mengambil informasi dari situs seperti The Onion atau Reddit dan menyajikannya sebagai fakta.
Hal ini dapat menyebabkan konsekuensi yang berbahaya, karena pengguna mungkin mempercayai informasi yang salah ini. Contohnya, Fitur Baru AI pernah memberikan ringkasan kasus hukum palsu yang dibuat oleh seorang pengacara.
Google telah menyatakan bahwa mereka sedang berupaya untuk meningkatkan Fitur Baru AI dan membuatnya lebih dapat diandalkan. Namun, untuk saat ini, pengguna harus berhati-hati saat menggunakan fitur ini dan selalu memverifikasi informasi yang diberikannya dengan sumber lain.
