Uni Eropa telah memperingatkan Microsoft bahwa perusahaan tersebut bisa didenda hingga 1% dari omzet global tahunannya di bawah rezim tata kelola online blok tersebut, Undang-Undang Layanan Digital (DSA), setelah perusahaan gagal merespons permintaan informasi yang mengikat secara hukum tentang alat GenAI generatifnya.
Kembali pada bulan Maret, UE telah meminta Microsoft dan beberapa raksasa teknologi lainnya untuk informasi tentang risiko sistemik yang ditimbulkan oleh alat GenAI generatif. Pada hari Jumat, Komisi mengatakan Microsoft gagal menyediakan beberapa dokumen yang diminta.
Komisi memberikan waktu kepada perusahaan hingga tanggal 27 Mei untuk menyediakan data yang diminta atau menghadapi tindakan penegakan hukum. Denda di bawah DSA dapat meningkat hingga 6% dari pendapatan global tahunan, tetapi informasi yang tidak akurat, tidak lengkap, atau menyesatkan yang disediakan sebagai tanggapan atas RFI formal bisa menghasilkan denda mandiri sebesar 1%. Itu bisa berjumlah hingga beberapa miliar dolar dalam kasus Microsoft - perusahaan melaporkan pendapatan sebesar $211,92 miliar pada tahun fiskal yang berakhir pada 30 Juni 2023.
Kewajiban risiko sistemik platform yang lebih besar di bawah DSA diawasi oleh Komisi itu sendiri, dan peringatan ini duduk di atas toolbox opsi penegakan yang kuat dan bisa jauh lebih mahal bagi Microsoft daripada kerugian reputasi yang mungkin diterimanya karena gagal memproduksi data atas permintaan.
Komisi mengatakan informasi yang hilang berkaitan dengan risiko yang berasal dari fitur AI generatif dari mesin pencari Bing - terutama, regulator menyoroti asisten AI 'Copilot in Bing' dan alat pembuat gambar 'Image Creator by Designer'.
UE mengatakan khususnya khawatir tentang risiko yang mungkin ditimbulkan alat-alat tersebut terhadap wacana sipil dan proses pemilihan.
Komisi memberikan waktu kepada Microsoft hingga tanggal 27 Mei untuk menyediakan informasi yang hilang atau menghadapi denda sebesar 1% dari pendapatan tahunan. Jika perusahaan gagal menghasilkan data pada waktu itu, Komisi juga dapat memberlakukan 'denda periodik' hingga 5% dari pendapatan harian rata-rata atau omzet tahunan globalnya.
Bing ditetapkan sebagai mesin pencari online besar yang sangat (VLOSE) di bawah DSA pada bulan April 2023, yang berarti itu tunduk pada lapisan tambahan kewajiban terkait mitigasi risiko sistemik seperti disinformasi.
Kewajiban DSA pada platform besar untuk meredam disinformasi menempatkan teknologi AI generatif dengan jelas. Para raksasa teknologi telah berada di garis depan menyematkan GenAI ke dalam platform utama mereka meskipun kekurangan mencolok seperti kecenderungan model bahasa besar (LLM) untuk membuat informasi palsu sambil menyajikannya sebagai fakta.
Alat pembuat gambar berkekuatan AI juga telah terbukti menghasilkan output berbasis rasial atau berpotensi berbahaya, seperti deepfake yang menyesatkan. Sementara itu, UE memiliki pemilihan yang akan datang bulan depan, yang membuat Brussel fokus pada disinformasi politik yang didukung AI.
“Permintaan informasi didasarkan pada dugaan bahwa Bing mungkin telah melanggar DSA karena risiko yang terkait dengan AI generatif, seperti yang disebut 'halusinasi,' penyebaran viral deepfakes, serta manipulasi otomatis dari layanan yang dapat menyesatkan pemilih,” tulis Komisi dalam siaran pers.
“Di bawah DSA, layanan yang ditunjuk, termasuk Bing, harus melakukan penilaian risiko yang memadai dan mengadopsi langkah mitigasi risiko yang sesuai (Pasal 34 dan 35 dari DSA). AI generatif adalah salah satu risiko yang diidentifikasi oleh Komisi dalam panduan-panduannya tentang integritas proses pemilihan, khususnya untuk pemilu yang akan datang ke Parlemen Eropa pada bulan Juni.”
Dihubungi untuk memberikan komentar, juru bicara Microsoft mengirimkan pernyataan di mana perusahaan tersebut mengklaim “angat berkomitmen untuk menciptakan pengalaman online yang aman dan bekerja dengan para regulator tentang topik penting ini”.
“Kami telah sepenuhnya bekerja sama dengan Komisi Eropa sebagai bagian dari permintaan informasi sukarela dan tetap berkomitmen untuk merespons pertanyaan mereka dan berbagi lebih banyak tentang pendekatan kami terhadap keamanan digital dan kepatuhan dengan DSA,” Microsoft juga menulis, menambahkan: “Di seluruh rangkaian layanan online kami, kami mengambil langkah-langkah untuk mengukur dan meredam risiko potensial. Termasuk sejumlah tindakan untuk mempersiapkan alat-alat kami untuk pemilu 2024 dan membantu menjaga pemilih, kandidat, kampanye, dan otoritas pemilihan. Kami juga akan terus berkolaborasi dengan rekan-rekan industri kami sebagai bagian dari Pakta Teknologi untuk Melawan Penggunaan Tidak Jujur AI dalam Pemilu 2024.”
Laporan ini diperbarui dengan komentar dari Microsoft
UE Memperkuat Pemeriksaan Terhadap Platform Utama atas Risiko GenAI Mendekati Pemilu
