Masalah dan Kekacauan di Internet yang Ditimbulkan ChatGPT

Meski diciptakan sebagai mesin AI yang sangat pintar, ChatGPT tetap jauh dari sempurna, dan memiliki banyak kekurangan. Ia masih rentan dikecoh, tidak bisa melakukan verifikasi pada data-data tertentu karena tidak/belum ada di database-nya, dan menjalankan sistem GIGO.

Jika kita meminta suatu data/informasi pada ChatGPT, dan dia tidak memiliki data/informasi itu (karena belum ada di database-nya), ChatGPT akan mengarang-ngarang sendiri jawabannya! [Kalian bisa mencoba hal ini pada data apa pun, dan coba lakukan verifikasi manual.]

Bagaimana mesin AI yang dianggap sangat maju ternyata masih terjebak pada kekonyolan semacam itu? Karena ChatGPT menerapkan GIGO. Ia menyerap informasi apa pun yang dimasukkan pengguna, lalu menggunakannya!

Ini mirip Wikipedia. Sebagai situs ensiklopedia raksasa, Wikipedia menyimpan informasi luar biasa. Tetapi, siapa pun bisa mengubah informasi di Wikipedia seenaknya, dan informasi itu akan dipercaya oleh Wiki maupun penggunanya... sampai informasi salah itu dibenahi.

Hal serupa terjadi pada ChatGPT. Kita, sebenarnya, bisa memasukkan informasi salah apa pun ke dalam otak ChatGPT, dan ia akan menyerap informasi salah itu, memasukkannya ke dalam database, lalu “mengolahnya” untuk kemudian ia gunakan ketika ada pengguna yang meminta.

Para pengguna ChatGPT tanpa sadar melakukan itu; memasukkan informasi salah ke dalam sistem ChatGPT, dan mesin AI itu akan terus menyerapnya, karena ia tidak bisa melakukan verifikasi, khususnya ketika informasi yang ia terima belum ada dalam database di memorinya.

Jadi, sebagai mesin AI, ChatGPT sebenarnya tidak bisa secara pasti membedakan mana informasi yang benar dan mana yang salah. Jika kita cukup pintar memasukkan informasi salah ke dalam memorinya, ia akan menganggap informasi itu benar. Bisa membayangkan dampaknya ke depan?