Model pembelajaran mesin yang berjaya bermula dengan data latihan berkualiti tinggi. Tetapi salah satu soalan paling lazim yang ditanya oleh pasukan pada permulaan projek AI ialah: Berapa banyak data latihan yang mencukupi?
Jawapan yang jujur ialah tiada nombor tetap yang sesuai untuk setiap projek. Jumlah data yang anda perlukan bergantung pada tugasan, kerumitan model, bilangan kelas, kualiti data, ketepatan label dan piawaian prestasi yang ingin anda capai.
Dalam praktiknya, cara terbaik untuk menganggarkan keperluan data latihan adalah dengan bermula dengan sampel yang mewakili, melatih subset yang semakin besar dan mengukur bila prestasi model mula menurun. Ini membantu pasukan membuat keputusan termaklum tentang kos, garis masa, usaha anotasi dan hasil yang dijangkakan.
Dalam blog ini, kami menguraikan faktor utama yang mempengaruhi jumlah data latihan, menerangkan cara menganggarkan keperluan dalam praktik dan menunjukkan apa yang perlu dilakukan apabila anda memerlukan lebih banyak data tanpa melambatkan pelan tindakan AI anda.
Mengapa Data Latihan Penting
Data latihan merupakan asas bagi setiap sistem pembelajaran mesin. Tidak kira betapa canggihnya algoritma tersebut, ia hanya boleh mempelajari corak yang terdapat dalam data yang digunakan untuk melatihnya. Jika data tidak lengkap, berat sebelah, bising atau terlalu terhad, model tersebut akan menghadapi kesukaran untuk digeneralisasikan dalam dunia sebenar.
Data latihan yang kukuh membantu pasukan:
- meningkatkan ketepatan model
- mengurangkan bias dan titik buta
- menganggarkan kos dan kebolehlaksanaan projek dengan lebih tepat
- mengurangkan kerja semula semasa lelaran model
- membina saluran pengesahan dan pengujian yang lebih andal
Inilah sebabnya mengapa pengumpulan, pembersihan, pelabelan dan pengesahan data sering mengambil bahagian terbesar usaha dalam projek AI. Jika data lemah, ramalan juga akan lemah.
Tiada Nombor Universal — Tetapi Terdapat Cara Praktikal untuk Menganggarkannya
Banyak artikel cuba menjawab soalan ini dengan satu nombor. Itu jarang sekali berguna.
Model untuk pengelasan binari mudah mungkin berfungsi dengan baik dengan set data yang agak kecil, manakala aliran kerja penalaan halus model bahasa yang besar atau sistem penglihatan komputer untuk kes pinggir mungkin memerlukan lebih banyak contoh. Soalan yang lebih baik bukanlah "apakah nombor ajaib?" tetapi:
Berapakah jumlah minimum data latihan berkualiti tinggi dan representatif yang diperlukan untuk mencapai prestasi sasaran bagi kes penggunaan ini?
Cara praktikal untuk menjawabnya adalah dengan menggunakan lengkung pembelajaran: latih model tentang peningkatan jumlah data dan perhatikan berapa banyak prestasi yang bertambah baik dengan setiap langkah. Apabila penambahbaikan mula mendatar, anda mempunyai isyarat yang lebih jelas sama ada pengumpulan lebih banyak data berbaloi dengan pelaburan. Pendekatan ini biasanya disyorkan dalam aliran kerja ML praktikal.
7 Faktor Yang Menentukan Berapa Banyak Data Latihan Yang Anda Perlukan
1. Jenis Model: Pembelajaran Berbilang Bahasa Klasik vs Pembelajaran Mendalam
Jenis model mempunyai impak yang besar terhadap keperluan data. Model pembelajaran mesin klasik seperti regresi logistik, pokok keputusan atau penggalakan kecerunan selalunya boleh berfungsi dengan baik pada set data berstruktur yang lebih kecil, terutamanya apabila ciri direkayasa dengan baik.
Model pembelajaran mendalam biasanya memerlukan lebih banyak data kerana ia mempelajari ciri secara automatik dan mengandungi lebih banyak parameter. Untuk tugasan imej, audio dan bahasa, model mendalam biasanya mendapat manfaat yang ketara daripada jumlah dan kepelbagaian data tambahan.
2. Pembelajaran Diselia vs. Pembelajaran Tanpa Selia
Pembelajaran yang diselia memerlukan data berlabel, yang selalunya lebih sukar dan lebih mahal untuk dikumpulkan. Jika model anda memerlukan manusia untuk memberi anotasi imej, menyalin audio, menanda entiti atau mengklasifikasikan dokumen, keperluan data mesti mengambil kira kuantiti dan usaha pelabelan.
Pembelajaran tanpa pengawasan tidak memerlukan data berlabel, tetapi ia masih mendapat manfaat daripada set data yang besar dan representatif. Walaupun tanpa label, model memerlukan liputan yang mencukupi untuk mengesan corak dan struktur yang bermakna.
3. Kerumitan Tugas dan Bilangan Kelas
Tugasan pengelasan binari yang mudah adalah sangat berbeza daripada masalah pengimejan perubatan berbilang kelas atau sistem pengecaman pertuturan berbilang bahasa.
Apabila kerumitan tugas meningkat, keperluan data latihan biasanya meningkat kerana model mesti mempelajari:
- lebih banyak kelas
- perbezaan yang lebih halus antara kategori
- lebih banyak kes tepi
- lebih banyak kebolehubahan kontekstual
Contohnya, membezakan "kucing" vs "anjing" adalah jauh lebih mudah daripada mengenal pasti berpuluh-puluh kecacatan produk yang serupa secara visual merentasi keadaan pencahayaan, sudut kamera dan latar belakang.
4. Kualiti Data dan Ketepatan Label
Lebih banyak data tidak selalunya lebih baik jika kualitinya buruk.
Set data yang lebih kecil dengan label yang tepat, perwakilan yang seimbang dan pemformatan yang konsisten boleh mengatasi set data yang lebih besar tetapi bising. Label berkualiti rendah, rekod pendua, definisi kelas yang lemah, metadata yang hilang dan garis panduan anotasi yang tidak konsisten semuanya mengurangkan prestasi model.
Sebelum mengumpul lebih banyak data, pasukan harus bertanya:
- Adakah label konsisten?
- Adakah kita merangkumi semua senario pengguna yang penting?
- Adakah data tersebut mewakili keadaan pengeluaran?
- Adakah set latihan, pengesahan dan ujian diasingkan dengan betul?
Bagi banyak projek, peningkatan kualiti data menghasilkan keuntungan yang lebih cepat daripada sekadar meningkatkan jumlah data.
5. Kepelbagaian, Liputan dan Keseimbangan Kelas
Model harus belajar daripada kebolehubahan dunia sebenar yang akan dihadapinya selepas penggunaan. Ini bermakna set data harus mencerminkan senario, kumpulan pengguna, jenis peranti, aksen, persekitaran, format dokumen, keadaan imej dan kes pinggir yang berbeza.
Jika satu kelas atau segmen kurang diwakili, model mungkin kelihatan tepat secara keseluruhan tetapi gagal teruk pada subkumpulan kritikal. Inilah sebabnya mengapa kepelbagaian dan keseimbangan kelas sama pentingnya dengan saiz mentah.
Dalam banyak kes, persoalannya bukanlah "Adakah kita mempunyai data yang mencukupi?" tetapi "Adakah kita mempunyai data yang betul dan mencukupi?"
6. Pembelajaran Pemindahan dan Model Pra-terlatih
Jika anda bermula daripada model pra-latihan, anda mungkin memerlukan data khusus tugas yang jauh lebih sedikit berbanding jika anda berlatih dari awal.
Ini benar terutamanya untuk:
- pengelasan imej menggunakan tulang belakang penglihatan
- Tugasan NLP menggunakan model berasaskan transformer
- model pertuturan yang disesuaikan dengan loghat atau domain baharu
- aliran kerja penyesuaian domain
Pembelajaran pemindahan membolehkan pasukan menggunakan semula pengetahuan yang dipelajari pada set data sedia ada yang besar, yang dapat mengurangkan beban anotasi secara mendadak. Artikel asal telah membincangkan perkara ini dengan baik; ia sepatutnya kekal, tetapi dengan contoh yang lebih jelas.
7. Strategi Pengesahan dan Prestasi Sasaran
Jumlah data yang anda perlukan juga dibentuk oleh betapa baiknya model tersebut.
Prototaip mungkin berfungsi dengan jumlah data yang sederhana. Model pengeluaran dalam persekitaran penjagaan kesihatan, kewangan, insurans, automotif atau pematuhan yang ketat memerlukan liputan yang lebih kukuh, label yang lebih bersih, pengesahan yang lebih baik dan prestasi yang lebih andal merentasi kes pinggir. Semakin ketat kadar ralat yang boleh diterima, semakin kukuh set data anda.
Cara Menganggarkan Keperluan Data Latihan dalam Amalan
Daripada meneka, gunakan proses anggaran berstruktur.
Langkah 1: Mulakan dengan Set Data Perintis Perwakilan
Kumpulkan sampel ruang masalah yang lebih kecil tetapi mewakili. Sertakan kelas, format, jenis pengguna dan variasi dunia sebenar yang penting.
Langkah 2: Pisahkan Data dengan Betul
Cipta set latihan, pengesahan dan ujian yang berasingan. Pastikan set ujian mencerminkan keadaan pengeluaran dan tidak pernah digunakan semasa latihan.
Langkah 3: Latih Sampel yang Semakin Besar
Latih model menggunakan bahagian set data yang semakin meningkat, seperti 10%, 20%, 40%, 60%, 80% dan 100%.
Langkah 4: Plotkan Keluk Pembelajaran
Jejaki metrik prestasi seperti ketepatan, skor F1, ingatan semula, ketepatan atau ukuran kualiti khusus tugasan apabila saiz set data meningkat.
Langkah 5: Cari Dataran Tinggi
Jika prestasi model meningkat dengan mendadak dengan lebih banyak data, anda mungkin memerlukan lebih banyak lagi. Jika penambahbaikan berkurangan, kesesakan anda mungkin bukan lagi pada jumlah — ia mungkin kualiti label, reka bentuk ciri, pilihan model atau ketidakseimbangan kelas.
Langkah 6: Semak Prestasi Peringkat Segmen
Semak prestasi model bukan sahaja secara keseluruhan, tetapi merentasi kelas penting dan kes pinggir. Model mungkin berada pada tahap mendatar secara keseluruhan tetapi masih berprestasi rendah pada segmen minoriti. Kaedah ini memberikan pihak berkepentingan anggaran yang lebih realistik tentang berapa banyak data tambahan yang perlu dikumpulkan.
Cara Mengetahui Apabila Anda Mempunyai Data Latihan yang Mencukupi
Anda mungkin mempunyai data yang mencukupi apabila:
- Prestasi model hanya meningkat sedikit apabila lebih banyak data ditambah
- Keputusan pengesahan stabil merentasi berbilang larian atau lipatan
- kelas-kelas penting menunjukkan prestasi yang boleh diterima, bukan hanya kelas majoriti
- prestasi kekal pada set ujian yang bersih dan tidak disentuh
- Ralat yang selebihnya lebih disebabkan oleh hingar atau kekaburan label berbanding kekurangan contoh
Anda mungkin memerlukan lebih banyak data apabila:
- keluk pembelajaran masih meningkat
- kelas-kelas yang jarang berlaku menunjukkan prestasi yang buruk
- model gagal pada variasi dunia sebenar yang biasa
- keputusan berubah-ubah dengan ketara antara larian
- prestasi ujian menurun mendadak berbanding prestasi pengesahan
Cara Mengurangkan Keperluan Data Latihan
Kadangkala cabarannya bukanlah reka bentuk model — ia adalah kekurangan data, bajet atau masa ke pasaran. Dalam kes tersebut, pasukan boleh mengurangkan kebergantungan mereka pada jumlah data yang besar dengan strategi yang betul.
Pembesaran Data
Pembesaran data mencipta contoh latihan baharu daripada data sedia ada. Dalam visi komputer, ini mungkin termasuk memangkas, memutar, membalikkan atau melaraskan kecerahan. Dalam NLP dan pertuturan, pembesaran mestilah lebih berhati-hati, tetapi transformasi terkawal masih boleh membantu.
Digunakan dengan betul, augmentasi meningkatkan keteguhan dan membantu model membuat generalisasi dengan lebih baik. Jika digunakan dengan teruk, ia boleh memperkenalkan hingar atau contoh yang tidak realistik.
Pemindahan Pembelajaran
Pembelajaran pemindahan membolehkan anda menyesuaikan model sedia ada untuk tugasan baharu dan bukannya berlatih dari sifar. Ini selalunya merupakan salah satu cara paling berkesan untuk mengurangkan keperluan data latihan.
Model pra-latihan
Model pra-latihan seperti model NLP seperti BERT atau tulang belakang visi yang mantap boleh memberikan titik permulaan yang kukuh. Daripada mempelajari segala-galanya dari awal, model ini bermula dengan pengetahuan terdahulu yang berguna.
Pembelajaran Aktif
Jika pelabelan mahal, pembelajaran aktif boleh membantu mengutamakan contoh yang paling bermaklumat terlebih dahulu. Ini meningkatkan kecekapan anotasi dan boleh mengurangkan bilangan label yang diperlukan untuk mencapai prestasi yang berguna.
Data Sintetik
Data sintetik boleh berguna apabila data dunia sebenar terhad, sensitif atau sukar dikumpulkan, terutamanya dalam bidang seperti penjagaan kesihatan, kewangan, sistem autonomi dan simulasi kes pinggir. Tetapi ia harus menambah — bukan menggantikan secara membuta tuli — data sebenar yang representatif.
Contoh Dunia Nyata Projek Pembelajaran Mesin Dengan Set Data Minimum
Walaupun nampaknya mustahil bahawa beberapa projek pembelajaran mesin yang bercita-cita tinggi boleh dilaksanakan dengan bahan mentah yang minimum, beberapa kes adalah benar. Bersedia untuk kagum.
| Laporan Kaggle | Healthcare | Onkologi Klinikal |
| Tinjauan Kaggle mendedahkan bahawa lebih 70% daripada projek pembelajaran mesin telah disiapkan dengan kurang daripada 10,000 sampel. | Dengan hanya 500 imej, pasukan MIT melatih model untuk mengesan neuropati diabetik dalam imej perubatan daripada imbasan mata. | Meneruskan contoh dengan penjagaan kesihatan, pasukan Universiti Stanford berjaya membangunkan model untuk mengesan kanser kulit dengan hanya 1000 imej. |
Membuat Tekaan Berpendidikan
Tiada nombor ajaib mengenai jumlah minimum data yang diperlukan, tetapi terdapat beberapa peraturan yang boleh anda gunakan untuk mendapatkan nombor rasional.
Peraturan 10
Sebagai peraturan ibu jari, untuk membangunkan model AI yang cekap, bilangan set data latihan yang diperlukan hendaklah sepuluh kali lebih banyak daripada setiap parameter model, juga dipanggil darjah kebebasan. Peraturan '10' times bertujuan untuk mengehadkan kebolehubahan dan meningkatkan kepelbagaian data. Oleh itu, peraturan praktikal ini boleh membantu anda memulakan projek anda dengan memberi anda idea asas tentang kuantiti set data yang diperlukan.
Pembelajaran Deep
Kaedah pembelajaran mendalam membantu membangunkan model berkualiti tinggi jika lebih banyak data disediakan kepada sistem. Secara amnya diterima bahawa mempunyai 5000 imej berlabel bagi setiap kategori sepatutnya mencukupi untuk mencipta algoritma pembelajaran mendalam yang boleh berfungsi setanding dengan manusia. Untuk membangunkan model yang sangat kompleks, sekurang-kurangnya 10 juta item berlabel diperlukan.
Visi Komputer
Jika anda menggunakan pembelajaran mendalam untuk klasifikasi imej, terdapat konsensus bahawa set data 1000 imej berlabel untuk setiap kelas adalah nombor yang saksama.
Lengkung Pembelajaran
Lengkung pembelajaran digunakan untuk menunjukkan prestasi algoritma pembelajaran mesin terhadap kuantiti data. Dengan mempunyai kemahiran model pada paksi-Y dan set data latihan pada paksi-X, adalah mungkin untuk memahami bagaimana saiz data mempengaruhi hasil projek.
Kos Mempunyai Data Terlalu Sedikit
Apabila pasukan berlatih menggunakan set data yang terhad, sempit atau berat sebelah, model tersebut mungkin kelihatan menjanjikan dalam pembangunan tetapi gagal dalam pengeluaran.
Data yang terlalu sedikit boleh menyebabkan:
- overfitting
- generalisasi yang lemah
- ramalan yang tidak stabil
- prestasi buruk dalam kelas minoriti
- risiko bias yang lebih tinggi
- lebih banyak masa lelaran kemudian
Dalam erti kata lain, batasan dalam data latihan anda sering menjadi batasan produk anda.
Perkara yang perlu dilakukan jika anda Memerlukan lebih banyak Set Data
Apabila anda mengenal pasti jurang data, penyelesaiannya tidak selalunya "mengumpulkan semuanya". Pendekatan yang lebih bijak adalah mengembangkan set data secara strategik.
1. Gunakan Set Data Terbuka dengan Berhati-hati
Set data terbuka boleh membantu untuk prototaip atau penanda aras, tetapi ia tidak selalunya sesuai untuk kegunaan pengeluaran. Pasukan harus menyemak asal usul, persetujuan, kualiti, kerelevanan dan liputan sebelum bergantung padanya.
2. Kumpulkan Data Tersuai untuk Kes Penggunaan Anda
Jika persekitaran sasaran sangat spesifik, pengumpulan data tersuai selalunya merupakan pilihan terbaik. Ini terutamanya benar untuk aliran kerja yang padat dengan domain seperti AI penjagaan kesihatan, AI perbualan, kes pinggir penglihatan komputer dan sistem berbilang bahasa.
3. Tingkatkan Data Sedia Ada Melalui Anotasi
Banyak pasukan sudah mempunyai data mentah tetapi kekurangan struktur. Anotasi, pelabelan semula, pembersihan taksonomi dan semakan kualiti boleh membuka nilai lebih cepat daripada mengumpul set data baharu.
4. Mengimbangi Semula Kelas yang Kurang Terwakili
Jika prestasi lemah pada kategori tertentu, fokuskan pengumpulan dan pelabelan pada jurang berimpak tinggi tersebut dan bukannya mengembangkan keseluruhan set data secara sama rata.
5. Tambah Data Sintetik atau Data Tambahan Jika Sesuai
Apabila data sebenar terhad atau sensitif, data sintetik dan imbuhan boleh membantu meningkatkan liputan — tetapi ia perlu disahkan dengan teliti terhadap taburan dunia sebenar.
6. Bekerjasama dengan Rakan Kongsi Data Khusus
Bagi pasukan yang membina AI pengeluaran secara besar-besaran, bekerjasama dengan penyedia yang boleh mengumpul, melesenkan, memberi anotasi, mengesahkan dan mentadbir data latihan berkualiti tinggi boleh mengurangkan risiko projek dengan ketara dan mempercepatkan penggunaan.
Pemikiran Akhir
Tiada nombor ajaib untuk data latihan dalam pembelajaran mesin. Jumlah yang betul bergantung pada kes penggunaan, jenis model, kualiti data, kepelbagaian kelas, strategi pengesahan dan prestasi sasaran.
Cara paling berkesan untuk menganggarkan keperluan data latihan adalah dengan bermula dengan sampel yang representatif, mengukur prestasi menggunakan lengkung pembelajaran dan mengembangkan set data secara strategik berdasarkan di mana model masih gagal.
Bagi sesetengah projek, set data yang sederhana dan berkualiti tinggi mungkin mencukupi. Bagi projek lain, terutamanya persekitaran yang berisiko tinggi atau sangat berubah-ubah, kejayaan bergantung pada set data yang besar, dikurasi dengan teliti dan diberi anotasi yang baik.
Apa yang paling penting bukan sekadar mempunyai lebih banyak data — tetapi mempunyai data yang betul.
Adakah anda mempunyai projek yang hebat dalam fikiran tetapi sedang menunggu set data khusus untuk melatih model anda atau bergelut untuk mendapatkan hasil yang betul daripada projek anda? Kami menawarkan set data latihan yang luas untuk pelbagai keperluan projek. Manfaatkan potensi Saip dengan bercakap dengan salah seorang daripada kami saintis data hari ini dan memahami cara kami telah menyampaikan set data yang berprestasi tinggi dan berkualiti untuk pelanggan pada masa lalu.
Berapa banyak data latihan yang mencukupi untuk pembelajaran mesin?
Tiada nombor tetap. Amaun yang betul bergantung pada tugasan, kerumitan model, kualiti label, keseimbangan kelas dan ketepatan sasaran. Cara paling boleh dipercayai untuk menganggarkannya adalah dengan melatih subset yang semakin meningkat dan mengukur peningkatan prestasi.
Bagaimanakah saya tahu jika saya memerlukan lebih banyak data latihan?
Anda mungkin memerlukan lebih banyak data latihan jika prestasi model terus bertambah baik apabila saiz data meningkat, jika kelas yang jarang berlaku menunjukkan prestasi yang buruk, atau jika keputusan tidak stabil merentasi larian.
Bolehkah pemindahan pembelajaran mengurangkan keperluan data latihan?
Ya. Pembelajaran pemindahan membolehkan model menggunakan semula pengetahuan daripada sistem yang telah dilatih sebelum ini, yang boleh mengurangkan jumlah data berlabel khusus tugasan yang diperlukan dengan ketara.
Adakah lebih banyak data sentiasa lebih baik untuk pembelajaran mesin?
Tidak semestinya. Data yang lebih berkualiti rendah atau dilabel dengan buruk boleh menjejaskan prestasi. Dalam banyak kes, peningkatan kualiti, keseimbangan dan keterwakilan data adalah lebih berharga daripada sekadar meningkatkan jumlah.
Berapa banyak data yang saya perlukan untuk pembelajaran mendalam?
Model pembelajaran mendalam biasanya memerlukan lebih banyak data daripada model pembelajaran mesin klasik, terutamanya untuk tugasan imej, pertuturan dan bahasa. Walau bagaimanapun, model pra-latihan dan pembelajaran pemindahan dapat mengurangkan keperluan ini.
