Bagaimanakah kita boleh menggunakan AI secara beretika dalam pendidikan?

Tiga faktor menjadikan sistem autonomi dipacu AI sangat menarik

• Kepentingan dan kos pendidikan kepada Kerajaan dan ibu bapa. Kerajaan dan ibu bapa menghargai pendidikan kerana ia dilihat sebagai kunci kepada kemakmuran negara dan peribadi
• kekurangan guru global dan ketidakmampanan model semasa seorang guru kepada 20-30 pelajar; dan
• skop pasaran baharu yang luas (selain pandemik, terdapat 263 juta kanak-kanak di dunia yang tidak bersekolah).

Terdapat ruang lingkup di sini untuk menjadi 'Amazon Pendidikan' - tidak hairanlah para Pemodal Teroka mengalihkan perhatian mereka kepada EdTech.

Walau bagaimanapun, kita tidak bercakap tentang automasi penjualan buku di sini - kita bercakap tentang pendidikan golongan muda dan terdapat pelbagai kebimbangan etika yang perlu ditangani pada peringkat awal.

1. Set Data yang Tidak Merentas Sempadan . Kita masih dalam fasa 'Penerima Awal' dalam penggunaan AI Pendidikan. Pada masa ini, ia merupakan 'peningkatan' proses pendidikan sedia ada dan oleh itu sekolah perintis perlu berada pada tahap kecanggihan digital dan pedagogi yang agak tinggi untuk dapat menggunakan sistem ini. Kita perlu menyedari bahawa sistem ini sedang dibangunkan menggunakan set data yang tidak mewakili yang mempunyai implikasi untuk keadilan dan kebolehgunaan yang lebih luas pada masa hadapan.
    
2. Pertimbangan Sumatif AI . Pada masa ini, platform pendidikan menggunakan AI untuk membuat pertimbangan formatif terhadap pelajar individu (berdasarkan apa yang mungkin merupakan set data yang tidak mewakili secara global) untuk menyesuaikan pembelajaran dengan keperluan pelajar individu. Terdapat risiko di kemudian hari bahawa kita mungkin melihat sistem pendidikan AI menggantikan sistem peperiksaan awam semasa, membuat pertimbangan sumatif yang mempunyai kesan yang ketara terhadap pilihan hidup seperti akses kepada pendidikan tinggi atau tahap pekerjaan tertentu. Tambahan pula, pertimbangan mungkin dibuat berdasarkan kriteria yang lebih luas daripada yang digunakan pada masa ini. Contohnya, daripada hanya menilai sama ada pelajar telah menguasai kemahiran atau unit pengetahuan tertentu, adalah mungkin untuk menilai seberapa pantas pelajar mencapainya.
    
3. Jurang Digital: Memandangkan AI menjadi lebih biasa, terdapat bahaya 'jurang digital' pendidikan antara negara-negara kaya yang mampu menggunakan sistem pendidikan AI dan negara-negara yang tidak. (rujuk Terdapat penyertaan yang jauh lebih rendah dari Afrika dalam projek MIT baru-baru ini Awad dkk. 'Eksperimen Mesin Moral' Alam Semula Jadi Jil. 563 November 2018). 
   
    
4. Monopoli Pendidikan . Boleh difikirkan bahawa, pada masanya, akan ada beberapa syarikat besar, 'Amazon Pendidikan' jika anda suka, yang akan menguasai industri pendidikan automatik. Penyedia ini akan dapat mengawal kandungan apa yang diajar (seperti yang dilakukan oleh beberapa Kerajaan di seluruh dunia hari ini). Sebagai contoh, syarikat-syarikat ini boleh memutuskan bahawa Holocaust tidak sepatutnya dimasukkan dalam sukatan pelajaran sejarah C20 (seperti yang berlaku di banyak negara Arab hari ini); atau mereka mungkin mempromosikan ideologi atau pilihan gaya hidup tertentu (vegetarianisme, heteroseksualiti, dll.). Kita harus mengelakkan dunia di mana minoriti mempunyai monopoli terhadap pendidikan. 

Sudah tiba masanya untuk mengadakan perdebatan moral tentang AI dalam pendidikan.

https://www.buckingham.ac.uk/wp-content/uploads/2020/02/Interim-Report-The-Institute-for-Ethical-AI-in-Education.pdf

Mark S. Steed ialah Pengetua dan Ketua Pegawai Eksekutif Sekolah Kellett, Sekolah British di Hong Kong ; dan sebelum ini mengendalikan sekolah-sekolah di Devon, Hertfordshire dan Dubai. Dia tweet @independenthead