Pengungkapan OpenAI telah menimbulkan kekhawatiran tentang potensi penyalahgunaan teknologi AI generatif, yang dapat menghasilkan teks, citra, dan audio seperti manusia dengan cepat dan mudah.

Menanggapi ancaman tersebut, OpenAI yang didukung Microsoft mengumumkan pada hari Selasa (28 Mei) pembentukan Komite Keselamatan dan Keamanan, yang dipimpin oleh anggota dewan termasuk CEO Sam Altman, untuk mengawasi pelatihan model AI berikutnya.

Terlepas dari operasi yang menipu, OpenAI melaporkan bahwa kampanye ini tidak mencapai peningkatan keterlibatan audiens atau jangkauan melalui layanannya.

Operasi tersebut mencakup campuran teks yang dihasilkan AI dan ditulis secara manual, serta meme yang disalin dari internet, kata perusahaan yang berbasis di San Francisco itu.

Selain itu, Meta Platforms, dalam laporan keamanan baru-baru ini yang dirilis pada hari Rabu (29 Mei), mengidentifikasi konten kemungkinan yang dihasilkan AI yang digunakan secara menipu di Facebook dan Instagram.

Konten ini termasuk komentar yang memuji penanganan Israel terhadap konflik Gaza yang diposting di bawah entri dari organisasi berita global dan anggota parlemen AS.