Keuntungan:
- Keupayaan untuk mentakrifkan dengan jelas konsep agensi, jurang tanggungjawab, bias algoritma, ketelusan dan autonomi serta mewujudkan ketegangan.
- Meletakkan tanggungjawab bukan pada 'kecerdasan buatan' tetapi pada rantai manusia yang mereka bentuk, menggunakan dan menggunakannya
- Keupayaan untuk menjalankan perbahasan berbilang pihak dengan menyemak kecenderungan optimistik AI dan pengetahuan ketinggalan zaman tentang teknologinya sendiri
Falsafah dan etika gunaan adalah bidang yang bukan sahaja menggunakan AI tetapi juga mengkaji AI. Kecerdasan buatan sendiri adalah salah satu topik paling meriah dalam falsafah etika hari ini: Siapa yang bertanggungjawab apabila sistem AI membuat keputusan? Jika algoritma berat sebelah, bagaimanakah ketidakadilan ini dipanggil? Bolehkah AI dianggap sebagai "ejen" (subjek yang mampu melakukan tindakan moral)? Sebagai ahli etika, anda adalah orang yang menjalankan perbincangan dan mengajar ini. Dalam unit ini, kami akan menjelaskan konsep asas perbahasan etika AI (cabang etika gunaan yang mengkaji persoalan moral—tanggungjawab, berat sebelah, ketelusan, autonomi, keadilan—yang ditimbulkan oleh pembangunan dan penggunaan sistem kecerdasan buatan) dan melihat cara anda boleh menganalisis dan mengajar perbahasan ini dengan lebih baik dengan alatan AI.
Berikut ialah gelung yang menarik: Anda boleh menggunakan AI sebagai alat walaupun semasa membincangkan etika AI — tetapi di situlah anda perlu berwaspada dengan berat sebelah dan batasan AI sendiri.
Konsep asas dan ketegangan
Ejen dan subjek moral. Niat, pemahaman, kebebasan, dan kesedaran tentang akibat sering diperlukan untuk makhluk untuk memikul tanggungjawab moral. Sama ada AI mempunyai ini boleh dipertikaikan; Kebanyakan pandangan berpendapat bahawa AI ialah alat dan tanggungjawab itu kekal pada manusia yang mereka bentuk, menggunakan dan menggunakannya. Ini sejajar dengan prinsip yang ditekankan oleh modul sepanjang: tanggungjawab akhir terletak pada manusia.
Jurang tanggungjawab. Apabila sistem AI menyebabkan kemudaratan, situasi mungkin timbul di mana tanggungjawab tersebar (“dibiar dalam kekosongan”): pereka bentuk, penyedia data, institusi yang menggunakannya, pengendali muktamad? "Jurang tanggungjawab" ini adalah salah satu masalah utama etika AI kontemporari.
Bias algoritma. AI boleh mempelajari dan meniru ketidaksamaan sejarah dalam data latihan; Bias algoritma ini (apabila sistem secara sistematik menghasilkan hasil yang merugikan kumpulan tertentu) adalah teras perbincangan tentang keadilan dan diskriminasi.
Ketelusan dan kebolehjelasan. Kegagalan untuk memahami mengapa keputusan AI adalah seperti itu (masalah "kotak hitam") adalah masalah etika dari segi liabiliti dan hak untuk merayu. Kebolehjelasan (menjadikan rasional untuk keluaran sistem dapat difahami secara manusiawi) telah semakin menjadi keperluan etika dan undang-undang.
Petua: Dalam membincangkan etika AI, pisahkan konsep dengan jelas: Daripada mengatakan "AI membuat keputusan," katakan "AI menghasilkan output, manusia melaksanakannya." Kekakuan linguistik ini meletakkan tanggungjawab di tempat yang betul dan menyelamatkan perbincangan daripada keruh.
Menggunakan AI sebagai alat dalam perbahasan ini
AI sendiri adalah bahan ilustrasi yang hebat dalam kursus etika AI. Anda boleh meminta pelajar mencari berat sebelah dalam output AI, menunjukkan ketidakwajaran keputusan dan membandingkan pendapat yang berbeza. Tetapi dua kaveat: (1) AI mungkin mempunyai kecenderungan komersial atau optimistik tentang teknologinya; Pastikan anda mencari pendapat kritikal juga. (2) Medan ini berubah dengan cepat; Maklumat AI mungkin sudah lapuk, pergi ke sumber semasa untuk peraturan dan fakta.
Awas: Apabila bertanya AI "Adakah AI beretika?" Apabila anda bertanya soalan seperti ini, jawapan yang anda dapat adalah purata data latihan, bukan hasil perbincangan falsafah. Ambil jawapan ini sebagai titik permulaan; Tentukan konsep itu sendiri, wujudkan ketegangan itu sendiri, dan sokong mereka sendiri dengan contoh sebenar semasa.
tiga kes mini
Kes 1 — Perbahasan jurang tanggungjawab. Satu seminar membincangkan senario di mana sistem perekrutan dikuasakan AI menyebabkan kumpulan berada dalam keadaan yang tidak menguntungkan. Tanya AI "siapa yang bertanggungjawab?" Mereka mempunyai soalan yang dianalisis daripada rangka kerja yang berbeza; Output memetakan rantai pereka-data-institusi-pengendali. Kumpulan itu menggunakan peta ini untuk membangunkan kedudukan alasannya sendiri: mereka menyokong akauntabiliti setiap pautan supaya tanggungjawab tidak jatuh ke dalam "kekosongan".
Kes 2 — Prasangka yang ditunjukkan dengan contoh hidup. Seorang pengajar meminta AI menulis huraian kerja yang sama dengan nama yang berbeza dan menunjukkan stereotaip dalam cetakan kepada pelajar. Pelajar melihat bias algoritma bukan sebagai konsep abstrak, tetapi secara konkrit dalam output di hadapan mereka. Pengajaran itu mendarah daging konsep dengan contoh sebenar. Pensyarah juga menekankan bahawa ini adalah hasil tunggal dan bukti sistematik diperlukan untuk generalisasi.
Kes 3 — Trend optimistik telah stabil. Seorang pelajar mempunyai AI menulis tentang "kesan AI terhadap masyarakat"; Pengeluaran kebanyakannya positif dan mengurangkan risiko. Pelajar pergi ke sumber akademik kritikal, menambah pandangan yang bertentangan, dan membina analisis yang seimbang. Kecondongan AI terhadap domainnya sendiri diimbangi oleh kawalan manusia.
Gesaan lemah / Gesaan kuat
Gesaan yang lemah:
Adakah kecerdasan buatan beretika atau tidak? Jawab.
Gesaan ini mengurangkan perdebatan falsafah yang kompleks kepada jawapan binari; AI mengembalikan purata, konsep kekal tidak ditentukan dan berat sebelah menjadi tidak kelihatan.
Gesaan kuat:
Peranan anda: Penganalisis yang tidak berat sebelah dalam bidang etika AI. JANGAN HAKIM SAYA pada [Senario]. Sebaliknya:1) Tentukan konsep yang berkaitan (pelaku, jurang liabiliti, berat sebelah algoritma, ketelusan) — ringkas dan neutral.2) Petakan kemungkinan pengagihan tanggungjawab (pereka bentuk, data, institusi, pengendali).3) Kemukakan sekurang-kurangnya dua kedudukan etika yang bertentangan, masing-masing pada tahap yang paling kukuh.4) Ambil perhatian bahawa bidang ini berubah dengan pantas dan memerlukan penilaian saya sendiri yang terkini. Saya akan membuat pertimbangan saya sendiri. Lakon layar: [tulis skrip]
Gesaan ini menjelaskan konsep, mewujudkan perbincangan berbilang pihak dan menyerahkan keputusan kepada anda.
Empat templat yang boleh disalin
1) Penjelasan konsep:
Takrifkan secara ringkas dan objektif konsep berikut dalam etika AI: subjek ejen/moral, jurang tanggungjawab, bias algoritma, ketelusan, kebolehjelasan. Sertakan contoh harian di bawah setiap definisi. Tandai kawasan kontroversi sebagai "pendapat berbeza."
2) Pemetaan tanggungjawab:
Dalam senario berikut, lukiskan rantaian tanggungjawab untuk kerosakan yang dihasilkan oleh sistem AI: pereka bentuk, pembekal data, institusi pengedaran, pengendali pengguna, pengawal selia. Tuliskan kemungkinan pancang dan pertahanan setiap gelanggang. Buat penghakiman muktamad. Lakon layar: [skrip]
3) Persembahan kedudukan bertentangan:
Kemukakan sekurang-kurangnya dua pendirian etika yang bertentangan tentang [soalan etika AI], setiap satu dalam bentuk yang paling kukuh dan paling jujur. Tidak mengisytiharkan "pemenang". Namakan nilai yang menjadi asas bagi setiap kedudukan. Soalan: [soalan]
4) Optimisme/kawalan berat sebelah:
Semak sama ada teks berikut tentang AI meremehkan risiko atau menyampaikan kecenderungan optimistik terhadap teknologi. Tandai mana-mana perspektif kritikal yang tiada dan risiko yang perlu ditambah. Teks: [tampal teks]
Jadual konsep / voltan
konsep
soalan asas
ketegangan etika
Pelaku / subjek moral
Adakah AI memikul tanggungjawab?
Alat atau subjek?
jurang tanggungjawab
Siapa yang bertanggungjawab apabila berlaku kerosakan?
Akauntabiliti yang tersebar
bias algoritma
Kekurangan kepada siapa?
Keadilan vs kecekapan
ketelusan
Kenapa keputusan ini?
Kebolehjelasan dsb. kerumitan
autonomi
Berapa banyak kawalan manusia?
Automasi lwn. audit
Kesilapan biasa
- Bahasa "AI memutuskan". Ia mengaburkan tanggungjawab; AI menghasilkan output, manusia melaksanakannya, dan tanggungjawab terletak pada manusia.
- Mengurangkan perbahasan kepada jawapan binari. "Beretika atau tidak?" soalan memusnahkan kedalaman konsep; Sediakan voltan.
- Tidak menyedari kecenderungan optimistik AI. AI boleh menjadi tidak stabil tentang teknologinya sendiri; Tambah sumber kritikal.
- Mengitlak hasil tunggal. Bias dalam sampel amat ketara, tetapi tuntutan sistematik memerlukan bukti sistematik.
- Bergantung pada maklumat lapuk. Medan ini dan susunannya berubah dengan cepat; Sahkan fakta dengan sumber semasa.
Secara ringkasnya
Etika kecerdasan buatan ialah salah satu bidang falsafah kontemporari yang paling bersemangat, dan sebagai ahli etika anda berdua mengendalikan dan mengajar perbahasan ini. Tentukan konsep utama dengan jelas — agensi, jurang akauntabiliti, bias algoritma, ketelusan, autonomi — dan wujudkan ketegangan. Anda boleh menggunakan AI sebagai kedua-dua alat dan contoh dalam perbincangan ini, tetapi berhati-hati dengan dua masalah: AI cenderung optimistik tentang teknologinya, dan pengetahuannya mungkin ketinggalan zaman. Bahasa seperti "AI memutuskan" mengaburkan tanggungjawab; Bahasa konseptual yang ketat meletakkan tanggungjawab di tempat yang betul. Anda sentiasa membuat keputusan.
Tugasan permohonan
- Pilih senario etika AI (mis. sistem keputusan algoritma).
- Tentukan konsep utama dan semak sendiri dengan templat "penjelasan konsep".
- Keluarkan rantaian tanggungjawab sekiranya berlaku kerosakan dengan templat "pemetaan tanggungjawab".
- Bandingkan sekurang-kurangnya dua kedudukan etika dengan templat "pembentangan kedudukan lawan".
- Uji bias dalam teks AI dengan templat "semakan optimisme" dan tambahkan sumber kritikal.
senarai semak
- [ ] Saya mentakrifkan konsep dengan jelas dan objektif.
- [ ] Saya meletakkan tanggungjawab pada rantai manusia, bukan pada "AI."
- [ ] Saya menstrukturkan perbincangan secara berbilang pihak, saya tidak mengurangkannya kepada jawapan binari.
- [ ] Saya menyemak kecenderungan optimis AI terhadap bidangnya.
- [ ] Saya telah mengesahkan fakta dan peraturan dengan sumber semasa.
- [ ] Saya sendiri yang mengeluarkan penghakiman dan justifikasi terakhir.