Mantan Googler Timnit Gebru Memulai Pusat Penelitian AI-nya Sendiri
Business

Mantan Googler Timnit Gebru Memulai Pusat Penelitian AI-nya Sendiri

Satu tahun yang lalu Peneliti kecerdasan buatan Google Timnit Gebru tweeted, “Saya dipecat” dan memicu kontroversi atas kebebasan karyawan untuk mempertanyakan dampak teknologi perusahaan mereka. Kamis, dia meluncurkan lembaga penelitian baru untuk mengajukan pertanyaan tentang penggunaan kecerdasan buatan yang bertanggung jawab yang menurut Gebru tidak akan dilakukan oleh Google dan perusahaan teknologi lainnya.

“Alih-alih berjuang dari dalam, saya ingin menunjukkan model lembaga independen dengan serangkaian struktur insentif yang berbeda,” kata Gebru, yang merupakan pendiri dan direktur eksekutif Distributed Artificial Intelligence Research (DAIR). Bagian pertama dari nama tersebut mengacu pada tujuannya untuk menjadi lebih inklusif daripada kebanyakan lab AI—yang condong ke kulit putih, Barat, dan pria—dan untuk merekrut orang-orang dari belahan dunia yang jarang terwakili dalam industri teknologi.

Gebru dikeluarkan dari Google setelah bentrok dengan bos atas makalah penelitian yang mendesak hati-hati dengan teknologi pemrosesan teks baru yang secara antusias diadopsi oleh Google dan perusahaan teknologi lainnya. Google mengatakan dia mengundurkan diri dan tidak dipecat, tetapi mengakui bahwa kemudian memecat Margaret Mitchell, peneliti lain yang bersama Gebru memimpin tim yang meneliti AI etis. Perusahaan menempatkan pemeriksaan baru pada topik yang dapat dijelajahi oleh para penelitinya. Juru bicara Google Jason Freidenfelds menolak berkomentar tetapi mengarahkan WIRED ke laporan terbaru tentang pekerjaan perusahaan pada tata kelola AI, yang mengatakan Google telah menerbitkan lebih dari 500 makalah tentang “inovasi yang bertanggung jawab” sejak 2018.

Kejatuhan di Google menyoroti konflik yang melekat pada perusahaan teknologi yang mensponsori atau mempekerjakan peneliti untuk mempelajari implikasi teknologi yang mereka cari untung. Awal tahun ini, penyelenggara konferensi terkemuka tentang teknologi dan masyarakat membatalkan sponsor Google untuk acara tersebut. Gebru mengatakan DAIR akan lebih bebas untuk mempertanyakan potensi kerugian AI dan tidak akan terbebani oleh politik akademik dan tekanan untuk mempublikasikan yang menurutnya dapat memperumit penelitian universitas.

DAIR juga akan bekerja untuk mendemonstrasikan penggunaan AI yang tidak mungkin dikembangkan di tempat lain, kata Gebru, yang bertujuan untuk menginspirasi orang lain untuk membawa teknologi ke arah yang baru. Salah satu proyek tersebut adalah membuat kumpulan data publik dari citra udara Afrika Selatan untuk memeriksa bagaimana warisan apartheid masih terukir dalam penggunaan lahan. Analisis awal gambar menemukan bahwa di wilayah berpenduduk padat yang dulunya terbatas pada orang non-kulit putih di mana banyak orang miskin masih tinggal, sebagian besar lahan kosong yang dikembangkan antara 2011 dan 2017 diubah menjadi lingkungan perumahan yang kaya.

Sebuah makalah tentang proyek itu akan menandai debut formal DAIR dalam penelitian AI akademik akhir bulan ini di NeurIPS, konferensi AI paling terkemuka di dunia. Rekan peneliti pertama DAIR, Raesetje Sefala, yang berbasis di Afrika Selatan, adalah penulis utama makalah ini, yang mencakup peneliti luar.

Safiya Noble, seorang profesor di UCLA yang meneliti bagaimana platform teknologi membentuk masyarakat, menjabat sebagai dewan penasihat DAIR. Dia mengatakan proyek Gebru adalah contoh dari jenis lembaga baru dan lebih inklusif yang diperlukan untuk membuat kemajuan dalam memahami dan menanggapi dampak teknologi pada masyarakat.

“Perempuan kulit hitam telah menjadi kontributor utama untuk membantu kami memahami bahaya teknologi besar dan berbagai jenis teknologi yang berbahaya bagi masyarakat, tetapi kami tahu batasan di perusahaan Amerika dan akademisi yang dihadapi perempuan kulit hitam,” kata Noble. “Timnit mengenali bahaya di Google dan mencoba untuk campur tangan tetapi secara besar-besaran tidak didukung — di perusahaan yang sangat membutuhkan wawasan semacam itu.”

Noble baru-baru ini meluncurkan organisasi nirlaba miliknya sendiri, Equity Engine, untuk mendukung ambisi wanita kulit hitam. Dia bergabung di dewan penasihat DAIR oleh Ciira wa Maina, dosen di Universitas Teknologi Dedan Kimathi di Nyeri, Kenya.

DAIR saat ini merupakan proyek Kode nirlaba untuk Sains dan Masyarakat tetapi nantinya akan dimasukkan sebagai organisasi nirlaba dalam dirinya sendiri, kata Gebru. Proyeknya telah menerima hibah dengan total lebih dari $3 juta dari yayasan Ford, MacArthur, Rockefeller, dan Open Society, serta Kapor Center. Seiring waktu, ia berharap dapat mendiversifikasi dukungan keuangan DAIR dengan mengambil pekerjaan konsultasi terkait dengan penelitiannya.

Posted By : result hk