Pengenalan
Akta Kepintaran Buatan Kesatuan Eropah (EU AI Act) ialah peraturan terobosan yang bertujuan untuk menggalakkan pembangunan dan penggunaan sistem AI yang boleh dipercayai. Memandangkan perniagaan semakin bergantung pada teknologi AI, termasuk AI Pertuturan dan Model Bahasa Besar (LLM), pematuhan terhadap Akta AI EU menjadi penting. Catatan blog ini meneroka cabaran utama yang ditimbulkan oleh peraturan dan cara Shaip boleh membantu anda mengatasinya.
Memahami Akta AI EU
Akta Kepintaran Buatan Kesatuan Eropah (EU AI Act) memperkenalkan pendekatan berasaskan risiko untuk mengawal selia sistem AI, mengkategorikannya berdasarkan potensi kesannya terhadap individu dan masyarakat. Apabila perniagaan membangun dan menggunakan teknologi AI, memahami tahap risiko yang dikaitkan dengan kategori data yang berbeza adalah penting untuk pematuhan Akta AI EU. Akta AI EU mengklasifikasikan sistem AI kepada empat kategori risiko: risiko minimum, terhad, tinggi dan tidak boleh diterima.
Berdasarkan cadangan Akta Kepintaran Buatan (2021/0106(COD)), berikut ialah kategori risiko dan jenis data serta industri yang sepadan dalam format jadual:
Sistem AI Risiko Tidak Boleh Diterima:
| Jenis Data | Industries |
| Teknik subliminal untuk memesongkan tingkah laku | Semua |
| Eksploitasi kelemahan kumpulan tertentu | Semua |
| Pemarkahan sosial oleh pihak berkuasa awam | Kerajaan |
| Pengenalan biometrik jauh masa nyata dalam ruang yang boleh diakses secara umum untuk penguatkuasaan undang-undang (dengan pengecualian) | Penguatkuasaan undang-undang |
Sistem AI Berisiko Tinggi:
| Jenis Data | Industries |
| Pengenalpastian biometrik dan pengkategorian orang asli | Penguatkuasaan undang-undang, kawalan sempadan, kehakiman, infrastruktur kritikal |
| Pengurusan dan pengendalian infrastruktur kritikal | Utiliti, pengangkutan |
| Latihan pendidikan dan vokasional | Pendidikan |
| Pekerjaan, pengurusan pekerja, akses kepada pekerjaan sendiri | HR |
| Akses kepada dan menikmati perkhidmatan swasta dan awam yang penting | Perkhidmatan kerajaan, kewangan, kesihatan |
| Penguatkuasaan undang-undang | Penguatkuasaan undang-undang, keadilan jenayah |
| Pengurusan migrasi, suaka dan kawalan sempadan | Kawalan sempadan |
| Pentadbiran keadilan dan proses demokrasi | Badan kehakiman, pilihan raya |
| Komponen keselamatan jentera, kenderaan dan produk lain | Pembuatan, automotif, aeroangkasa, peranti perubatan |
Sistem AI Risiko Terhad:
| Jenis Data | Industries |
| Pengiktirafan emosi atau pengkategorian biometrik | Al |
| Sistem yang menjana atau memanipulasi kandungan ('palsu mendalam') | Media, hiburan |
| Sistem AI bertujuan untuk berinteraksi dengan orang semula jadi | Perkhidmatan pelanggan, jualan, hiburan |
Sistem AI Risiko Minimum:
| Jenis Data | Industries |
| Permainan video yang didayakan AI | hiburan |
| AI untuk penapisan spam | Semua |
| AI dalam aplikasi perindustrian tanpa kesan ke atas hak asasi atau keselamatan | Pembuatan, logistik |
Jadual di atas menyediakan ringkasan peringkat tinggi tentang cara jenis data dan industri yang berbeza memetakan kepada kategori risiko AI yang ditakrifkan dalam peraturan yang dicadangkan. Teks sebenar menyediakan kriteria dan definisi skop yang lebih terperinci. Secara umum, sistem AI yang menimbulkan risiko yang tidak boleh diterima terhadap keselamatan dan hak asasi adalah dilarang, manakala sistem yang menimbulkan risiko tinggi tertakluk kepada keperluan yang ketat dan penilaian pematuhan. Sistem risiko terhad mempunyai kewajipan ketelusan terutamanya, manakala AI risiko minimum tidak mempunyai keperluan tambahan di luar perundangan sedia ada.
Keperluan utama untuk sistem AI berisiko tinggi di bawah Akta AI EU.
Akta AI EU menetapkan bahawa penyedia sistem AI berisiko tinggi mesti mematuhi kewajipan khusus untuk mengurangkan potensi risiko dan memastikan kebolehpercayaan dan ketelusan sistem AI mereka. Keperluan yang disenaraikan adalah seperti berikut:
- Melaksanakan sistem pengurusan risiko untuk mengenal pasti dan mengurangkan risiko sepanjang kitaran hayat sistem AI.
- Penggunaan data latihan berkualiti tinggi, relevan dan tidak berat sebelah yang mewakili, dan bebas daripada kesilapan dan berat sebelah.
- Mengekalkan dokumentasi terperinci tujuan, reka bentuk dan pembangunan sistem AI.
- Pastikan ketelusan dan memberikan maklumat yang jelas kepada pengguna tentang keupayaan, had dan potensi risiko sistem AI.
- Melaksanakan langkah-langkah pengawasan manusia untuk memastikan sistem AI berisiko tinggi tertakluk kepada kawalan manusia dan boleh dibatalkan atau dinyahaktifkan jika perlu.
- Pastikan keteguhan, ketepatan dan keselamatan siber perlindungan terhadap akses, serangan atau manipulasi yang tidak dibenarkan.
Cabaran untuk AI Pertuturan dan LLM
AI pertuturan dan LLM sering berada di bawah kategori berisiko tinggi kerana potensi kesannya terhadap hak asasi dan risiko masyarakat. Beberapa cabaran yang dihadapi oleh perniagaan semasa membangunkan dan menggunakan teknologi ini termasuk:
- Mengumpul dan memproses data latihan yang berkualiti tinggi dan tidak berat sebelah
- Mengurangkan potensi bias dalam model AI
- Memastikan ketelusan dan kebolehjelasan sistem AI
- Melaksanakan mekanisme pengawasan dan kawalan manusia yang berkesan
Bagaimana Shaip Membantu Anda Mengemudi Kategori Risiko
Penyelesaian data AI dan perkhidmatan penilaian model Shaip disesuaikan untuk membantu anda menavigasi kerumitan kategori risiko EU AI Act:
Risiko Minimum dan Terhad
Untuk sistem AI dengan risiko yang minimum atau terhad, Shaip boleh membantu anda memastikan pematuhan kewajipan ketelusan dengan menyediakan dokumentasi yang jelas tentang proses pengumpulan data dan anotasi kami.
Risiko Tinggi
Untuk sistem AI dan LLM Pertuturan berisiko tinggi, Shaip menawarkan penyelesaian komprehensif untuk membantu anda memenuhi keperluan ketat:
- Dokumentasi terperinci pengumpulan data dan proses anotasi untuk memastikan ketelusan
- Data AI Etika untuk AI Pertuturan: Proses pengumpulan data kami mengutamakan persetujuan pengguna, privasi data (meminimumkan PII) dan mengalih keluar berat sebelah berdasarkan demografi, faktor sosio-ekonomi atau konteks budaya. Ini memastikan model AI Pertuturan anda mematuhi Akta AI EU dan mengelakkan keluaran diskriminasi.
- Mengurangkan Bias dalam Data Pertuturan: Kami memahami nuansa bahasa pertuturan dan potensi bias yang boleh menjalar ke dalam data. Pasukan kami menganalisis data dengan teliti untuk mengenal pasti dan menghapuskan kemungkinan berat sebelah, memastikan sistem AI Pertuturan yang lebih adil dan boleh dipercayai.
- Penilaian Model dengan Pematuhan Akta AI EU dalam Fikiran: Penyelesaian Penilaian & Penandaarasan Model Shaip boleh menilai model AI Pertuturan anda untuk faktor seperti perkaitan, keselamatan dan kemungkinan berat sebelah. Ini membantu memastikan model anda memenuhi keperluan EU AI Act untuk ketelusan dan keadilan.
Risiko Tidak Boleh Diterima
Komitmen Shaip terhadap amalan AI yang beretika memastikan penyelesaian dan perkhidmatan data kami tidak menyumbang kepada pembangunan sistem AI dengan risiko yang tidak boleh diterima, membantu anda mengelakkan amalan terlarang di bawah Akta AI EU.
Bagaimana Shaip Boleh Membantu
Dengan bekerjasama dengan Shaip, perniagaan boleh menavigasi kerumitan Akta AI EU dengan yakin sambil membangunkan teknologi AI Pertuturan dan LLM yang canggih.
Menavigasi kategori risiko EU AI Act boleh menjadi mencabar, tetapi anda tidak perlu melakukannya bersendirian. Bekerjasama dengan Shaip hari ini untuk mengakses bimbingan pakar, data latihan berkualiti tinggi dan perkhidmatan penilaian model yang komprehensif. Bersama-sama, kami boleh memastikan projek Speech AI dan LLM anda mematuhi Akta AI EU sambil memacu inovasi ke hadapan.
