Kamus Popular Istilah AI: Pengekodan Duke

Pengekodan terma solo ialah istilah yang sangat biasa dalam analisis data, pembelajaran mesin dan kecerdasan buatan. Ia digunakan untuk menerangkan kaedah untuk menukar data kategori kepada perwakilan berangka. Dalam erti kata lain, peranan Pengekodan Panas Solo adalah untuk menukar label kategori yang pada asalnya tidak boleh mengambil bahagian secara langsung dalam pengiraan berangka kepada bentuk vektor yang boleh diproses oleh model.

Jika tag kategori asal menjawab "kategori mana ia tergolong", maka kod haba bebas menjawab "bagaimana kategori ini diwakili oleh satu set nombor biasa." Oleh itu, kod haba bebas sering digunakan dalam kejuruteraan ciri, pemodelan klasifikasi, perwakilan teks dan prapemprosesan data, dan memegang kedudukan yang sangat asas dalam kecerdasan buatan.

1. Konsep Asas: Apakah Prinsip Monocoding Haba

Pengekodan Satu Panas ialah kaedah untuk menukar pembolehubah kelas kepada vektor binari. Idea terasnya sangat mudah: tetapkan kedudukan khusus untuk setiap kategori yang mungkin, dan tetapkan kedudukan yang sepadan sebagai 1 untuk setiap kategori dan 0 untuk kedudukan yang tinggal.

Sebagai contoh, jika pembolehubah "warna" hanya mempunyai tiga nilai yang mungkin:

• Merah

• Hijau

• Biru

Pengekodan monoterma mereka boleh ditulis sebagai:

• Merah: [1, 0, 0]

• Hijau: [0, 1, 0]

• Biru: [0, 0, 1]

Anda boleh melihat bahawa perwakilan ini mempunyai ciri yang sangat jelas: dalam setiap vektor, hanya satu kedudukan ialah 1, manakala semua kedudukan lain ialah 0.

Inilah asal usul nama "Dure": "Panas" boleh difahami sebagai pengaktifan atau pencahayaan; "Dukere" bermaksud hanya satu tempat yang dinyalakan.

Dari perspektif mudah, kod Duke boleh difahami sebagai: setiap kategori diberi tempat duduk khusus; setiap kali kategori muncul, ia duduk di tempat duduknya sendiri, manakala selebihnya kekal kosong.

Sebagai contoh, jika kita menganggap "hari bekerja" sebagai pembolehubah kategori:

星期日

 

 

Kemudian "Rabu" boleh diwakili sebagai vektor tujuh dimensi, di mana hanya kedudukan yang sepadan dengan "Rabu" ialah 1, dan kedudukan lain ialah 0.

Secara amnya, jika pembolehubah kelas mempunyai n nilai yang mungkin, panjang vektor selepas pengekodan biasanya n.

Biarkan set kelas menjadi:

Kemudian, pengekodan haba unik kelas c_i boleh difahami sebagai vektor panjang n:

Apabila kedudukan i sepadan dengan kategori sebelumnya, x_i = 1; semua kedudukan lain ialah 0.

Sebagai contoh, jika terdapat empat kategori:

D

 

 

Jadi:

D → [0, 0, 0, 1]

 

 

Ini menunjukkan bahawa intipati Pengekodan Panas Solo bukan tentang "mengira hubungan antara kategori," tetapi lebih kepada menukar kategori kepada vektor berangka dengan cara yang tidak memperkenalkan susunan saiz. Ini sangat penting. Kerana banyak kategori itu sendiri tidak mempunyai hubungan saiz semula jadi.

Sebagai contoh:

• Merah, hijau, biru

• Kucing, anjing, burung

• Beijing, Shanghai, Guangzhou

Jika anda mengekodkannya secara langsung sebagai:

• Merah = 1

• Hijau = 2

• Biru = 3

Oleh itu, model itu mungkin tersilap berfikir "biru lebih besar daripada hijau" atau "hijau lebih kecil daripada merah," yang jelas tidak mempunyai makna praktikal. Kelebihan Pengekodan Panas Solo ialah ia tidak mencipta peraturan saiz yang tidak wujud secara buatan.

2. Kepentingan Pengekodan Haba dan Senario Aplikasi Biasa

1. Kepentingan pengekodan haba tunggal

Pengekodan haba adalah penting kerana model pembelajaran mesin selalunya memerlukan input berangka, manakala data dunia sebenar selalunya mengandungi sejumlah besar pembolehubah kategori.

Sebagai contoh:

邮件类型

 

 

Pembolehubah ini sendiri bukan nilai berterusan dan tidak boleh digunakan secara langsung untuk pengiraan berbilang nilai. Pengekodan haba ialah salah satu kaedah penukaran yang paling asas dan biasa digunakan.

Pertama, pengekodan haba yang unik membolehkan data kategori memasuki model.

Ia menukar "label" kepada vektor, membolehkan model memproses data kategori bersama ciri berangka lain.

Kedua, pengekodan haba tunggal mengelakkan susunan saiz yang salah.

Jika kategori dinomborkan secara langsung dengan integer, model mungkin salah faham corak saiz antara nombor ini; Pengekodan haba tidak memperkenalkan maklumat jujukan palsu ini.

Ketiga, format pengekodan haba kendiri adalah mudah, intuitif dan mudah dilaksanakan.

Bagi pemula, ia adalah salah satu titik masuk terbaik untuk memahami cara data kategori diukur; Bagi banyak model asas, ia juga merupakan kaedah prapemprosesan yang sangat praktikal.

Ringkasnya: label kategori asal menunjukkan "kategori mana yang tergolong"; Pengekodan monoterma menerangkan "bagaimana kelas ini ditukar kepada vektor berangka biasa."

2. Senario aplikasi biasa

(1) Dalam pembelajaran mesin, pengekodan haba sering digunakan untuk ciri kelas prapemprosesan

Dalam tugas seperti klasifikasi dan regresi, data input selalunya mempunyai kedua-dua ciri berangka dan kategori.

Contohnya, jadual data pengguna mungkin termasuk:

性别

 

 

Di sini, "bandar" dan "jantina" ialah ciri kategori, biasanya memerlukan pengekodan haba eksklusif sebelum input model.

(2) Dalam pemprosesan teks, pengekodan Dureh boleh digunakan untuk perwakilan perkataan yang paling asas

Dalam kaedah pemprosesan bahasa semula jadi awal, perkataan kadangkala diwakili sebagai vektor haba unik panjang senarai perkataan.

Sebagai contoh, jika senarai perkataan mengandungi 10,000 patah perkataan, setiap perkataan boleh sepadan dengan vektor panjang 10,000, dengan hanya satu kedudukan ialah 1.

Walaupun perwakilan ini kemudiannya sering digantikan dengan kaedah vektor perkataan yang lebih maju, ia kekal sebagai asas penting untuk memahami perwakilan berangka teks.

(3) Dalam pembelajaran mendalam, label kelas selalunya mula-mula ditukar kepada pengekodan haba tunggal

Dalam tugasan berbilang kategori, label itu sendiri sering diproses menjadi bentuk pengekodan haba tunggal.

Sebagai contoh, jika sampel tergolong dalam Kategori 3, labelnya mungkin:

[0, 0, 1, 0, 0]

 

 

Ini menjadikannya lebih mudah untuk membandingkan dengan output model dan mengira kerugian.

(4) Dalam sistem pengesyoran dan analisis perniagaan, pengekodan haba kendiri juga biasa

Sebagai contoh:

访问来源渠道

 

 

Kategori diskret ini selalunya perlu dikodkan sebelum memasuki model analisis atau sistem pengesyoran.

(5) Dalam analisis jadual, pengekodan haba unik sering digunakan untuk mengembangkan lajur klasifikasi kepada berbilang lajur

Dalam alat pemprosesan data praktikal, pengekodan haba solo sering nyata sebagai "mengembangkan medan kategori kepada berbilang lajur 0/1." Ini adalah perkara biasa untuk visualisasi, pemodelan statistik dan kejuruteraan ciri jadual.

Ringkasnya: pembolehubah kategori menunjukkan "kategori mana objek ini tergolong"; Pengekodan haba tunggal menerangkan "bagaimana kategori ini diperluaskan kepada berbilang kedudukan binari boleh dikira."

3. Perbezaan antara pengekodan haba tunggal dan pengekodan integer

Satu sebab penting mengapa pengekodan haba solo sering ditekankan ialah ia pada asasnya berbeza daripada "penomboran langsung."

1. Pengekodan integer memperkenalkan hubungan saiz palsu

Sebagai contoh, jika warna dikodkan sebagai:

蓝色 = 3

 

 

Jadi untuk kebanyakan model, ini kelihatan seperti:

蓝色 > 绿色 > 红色

 

 

Tetapi warna itu sendiri tidak mempunyai susunan berangka sedemikian.

2. Kod haba bebas hanya menunjukkan "sama ada ia tergolong dalam kategori"

Sebagai contoh:

蓝色 → [0, 0, 1]

 

 

Model ini tidak melihat nombor mana yang lebih besar, tetapi hanya "kedudukan mana yang diaktifkan."

3. Kaedah mana yang lebih sesuai bergantung kepada sama ada pembolehubah itu teratur

Jika kategori itu sendiri mempunyai susunan yang jelas, contohnya:

大

 

 

Dalam sesetengah kes, penomboran langsung mungkin tidak sesuai.

Walau bagaimanapun, untuk kebanyakan pembolehubah kelas tidak teratur (Pembolehubah Nominal), pengekodan haba tunggal biasanya lebih dipercayai.

Oleh itu, ia boleh diringkaskan sebagai: Kategori tidak tersusun: biasanya lebih sesuai untuk pengekodan haba tunggal; Kategori yang dipesan: Kadangkala anda boleh mempertimbangkan untuk mengekalkan maklumat pesanan; tidak perlu mengekodkannya secara unik.

4. Isu yang perlu diberi perhatian semasa menggunakan pengekodan haba kendiri

Walaupun pengekodan Duke mudah dan biasa digunakan, terdapat beberapa isu yang perlu diberi perhatian semasa memahami dan menggunakannya.

1. Lebih banyak kategori, semakin tinggi dimensi pengekodan

Jika pembolehubah kategori hanya mempunyai 3 nilai, pengekodan haba unik adalah sangat mudah;

Tetapi jika pembolehubah mempunyai 1,000 atau 10,000 kategori berbeza, vektor yang dikodkan oleh haba individu akan menjadi sangat panjang.

Ini menimbulkan dua persoalan:

• Dimensi ciri meningkat dengan pesat

• Data menjadi sangat jarang

Oleh itu, untuk Ciri Kategori Kardinaliti Tinggi, pengekodan haba yang unik tidak selalunya merupakan pilihan yang optimum.

2. Pengekodan haba itu sendiri tidak menyatakan persamaan antara kelas

Dalam Kaedah Monocoding Haba:

蓝色 → [0, 0, 1]

 

 

Kategori ini secara berangka "sama jauh" antara satu sama lain, menjadikannya mustahil untuk mengetahui mana yang lebih dekat dengan siapa.

Ini bermakna pengekodan haba tunggal hanya boleh membezakan kategori dan biasanya tidak boleh menyatakan hubungan semantik yang lebih kaya.

Inilah sebabnya, dalam pemprosesan bahasa semula jadi, pengekodan haba sering digantikan dengan kaedah seperti pembenaman perkataan.

3. Pemetaan kategori set latihan dan ujian mestilah konsisten

Jika semasa latihan "merah" sepadan dengan lajur pertama dan "hijau" sepadan dengan lajur kedua, peraturan yang sama mesti dikekalkan semasa ujian. Jika tidak, model akan menganggap kategori yang sama sebagai input yang berbeza, mengakibatkan hasil yang salah.

4. Beri perhatian sama ada terdapat "kategori tidak kelihatan"

Dalam aplikasi praktikal, kategori baharu mungkin muncul dalam set ujian atau data baharu yang tidak dilihat semasa latihan.

Jika peraturan pengekodan tidak mengambil kira perkara ini, mungkin tidak mungkin untuk memproses data ini dengan betul. Oleh itu, dalam sistem sebenar, selalunya perlu mengendalikan isu "kategori tidak diketahui" sebagai tambahan.

5. Pengekodan haba solo sesuai untuk pemula dan pemodelan asas, tetapi ia tidak selalu merupakan penyelesaian yang optimum

Pengekodan haba adalah sangat asas dan penting, tetapi dalam senario jarang dimensi tinggi, ia mungkin tidak begitu cekap.

Oleh itu, dalam beberapa tugas yang lebih kompleks, orang juga mempertimbangkan:

• Pengekodan Sasaran

• Pengekodan Frekuensi

• Membenamkan

Walau bagaimanapun, dari perspektif peringkat permulaan, Solo Hot Coding kekal sebagai salah satu titik permulaan terbaik untuk memahami penangkaran data yang dikategorikan.

5. Contoh Python

Di bawah ialah dua contoh mudah untuk menggambarkan konsep asas pengekodan terma dan bentuk biasanya dalam pemprosesan data.

Contoh 1: Melaksanakan pengekodan haba tunggal mudah secara manual

 

 

Contoh ini menunjukkan idea asas pengekodan haba solo: setiap kategori sepadan dengan kedudukan tetap, dan kategori tergolong dalam kedudukan yang ditetapkan kepada 1.

Contoh 2: Menggunakan panda untuk pengekodan haba solo

Contoh ini menggambarkan pendekatan yang paling biasa dalam pemprosesan jadual: satu lajur pembolehubah kategori dikembangkan kepada berbilang lajur lajur ciri 0/1. Ini menjadikan data lebih sesuai untuk dimasukkan ke dalam model pembelajaran mesin.

Ringkasan

Pengekodan terma ialah kaedah asas untuk menukar data kategori kepada vektor binari. Dengan mengamalkan prinsip bahawa "satu kategori sepadan dengan kedudukan, menerangi kedudukan untuk mana-mana kategori tergolong," ia menukar label kategori yang tidak boleh dikira secara langsung kepada perwakilan berangka yang boleh digunakan untuk pemprosesan model. Dalam pembelajaran mesin, pemprosesan teks dan kejuruteraan ciri, pengekodan haba adalah perkara biasa. Bagi pemula, ia boleh difahami sebagai: label asal menunjukkan "kelas mana yang tergolong," manakala kod haba unik menerangkan "bagaimana kategori ini diwakili oleh satu set 0 dan 1 yang ditetapkan."