Persaingan perusahaan teknologi dalam mengembangkan program kecerdasan buatan (AI) kini tidak hanya berfokus pada kecepatan dan kecanggihan perangkat keras semata. Dilansir dari Tekno, startup Anthropic mengambil pendekatan berbeda dengan memprioritaskan karakter dan sifat AI saat berinteraksi dengan manusia.
Langkah unik ini diwujudkan dengan mempekerjakan Amanda Askell, seorang filsuf asal Skotlandia yang bertugas menanamkan kepribadian serta kompas moral ke dalam chatbot bernama Claude. Kehadirannya mengubah mesin penjawab otomatis tersebut menjadi entitas digital yang memiliki etika dan empati mendalam.
Askell tumbuh besar di Prestwick, Skotlandia, dan telah menunjukkan ketertarikan pada isu eksistensi sejak kecil melalui karya-karya J.R.R. Tolkien. Perjalanan akademisnya dimulai dengan mempelajari seni rupa dan filsafat di University of Dundee sebelum melanjutkan ke University of Oxford.
Ia meraih gelar PhD dari New York University (NYU) dengan tesis yang membahas etika tak terbatas atau infinite ethics. Kemampuannya merangkul ambiguitas moral inilah yang membawanya masuk ke industri teknologi, dimulai dengan menjadi ilmuwan riset di OpenAI pada tahun 2020.
Selama di OpenAI, ia berkontribusi pada penulisan makalah penelitian GPT-3 yang monumental. Namun, ia memutuskan mundur karena merasa perusahaan mulai lebih mengedepankan kecanggihan teknis dibandingkan faktor keselamatan dan kehati-hatian dalam pengembangan model AI.
Metode Constitutional AI dan Pengembangan Kepribadian
Pada Maret 2021, Anthropic merekrut Askell sebagai Kepala Tim Penyelarasan Kepribadian. Ia menerapkan metode revolusioner bernama Constitutional AI (CAI) untuk melatih Claude agar tidak sekadar mematuhi aturan secara kaku, melainkan mampu bernalar secara independen.
Askell menyusun dokumen konstitusi setebal 30.000 kata yang menjadi landasan moral bagi sistem pelatihan model tersebut. Nilai-nilai di dalamnya mengacu pada Deklarasi Universal Hak Asasi Manusia PBB hingga standar privasi dan keamanan milik Apple.
"Itu kedengarannya sangat berat," merupakan salah satu bentuk respons empati Claude yang merupakan hasil pengajaran langsung dari Askell. Presiden Anthropic, Daniela Amodei, menyatakan bahwa pengguna dapat merasakan kepribadian Askell saat berdiskusi dengan Claude.
Pencapaian dan Dampak pada Industri AI
Visi Askell dalam menciptakan agen digital yang bijak terbukti efektif melalui berbagai metrik industri. Berdasarkan data yang ada, Claude berhasil meraih tingkat kepercayaan publik hingga 82 persen dan tingkat kepuasan pengguna mencapai 92 persen.
Claude juga menunjukkan akurasi tinggi dalam menyaring materi tidak pantas dengan skor 97,2 persen. Selain itu, tingkat halusinasi atau kecenderungan AI dalam mengarang fakta tercatat hanya sebesar 1,8 persen, yang merupakan angka terendah di industri saat ini.
Berkat kontribusinya, Amanda Askell masuk dalam daftar 100 Orang Paling Berpengaruh di dunia AI versi majalah TIME tahun 2024. Meskipun telah sukses, ia tetap memegang teguh prinsip etika dengan berkomitmen menyumbangkan 10 persen pendapatannya untuk pengentasan kemiskinan ekstrem global.
