OpenAI cari pejabat eksekutif untuk mengkaji risiko teknologi AI

 OpenAI membuka lowongan pemegang jabatan eksekutif baru yang bertugas mempelajari dan mengantisipasi berbagai risiko terkait penggunaan kecerdasan buatan (AI), mulai dari keamanan siber hingga dampaknya terhadap kesehatan mental pengguna.

Dilansir dari Tech Crunch pada Senin, CEO OpenAI Sam Altman dalam unggahannya di X mengakui bahwa perkembangan model AI saat ini mulai menghadirkan tantangan nyata, termasuk potensi pengaruh terhadap kondisi psikologis manusia serta kemampuannya dalam menemukan celah keamanan kritis dalam sistem digital.

Posisi tersebut diberi nama Head of Preparedness, yang bertanggung jawab menjalankan kerangka kesiapsiagaan untuk melacak dan mempersiapkan diri menghadapi kemampuan AI yang berpotensi menimbulkan risiko besar.

OpenAI menyebut posisi tersebut berperan penting dalam memastikan bahwa pengembangan teknologi AI tetap berada dalam batas aman, baik bagi pengguna maupun bagi stabilitas sistem global.

Posisi tersebut ditawarkan dengan kompensasi sebesar 555.000 dolar AS per tahun ditambah kepemilikan saham perusahaan.

OpenAI pertama kali membentuk tim kesiapsiagaan pada 2023 untuk mempelajari potensi risiko besar, mulai dari ancaman langsung seperti penipuan daring hingga risiko spekulatif seperti penyalahgunaan senjata nuklir.

Namun, dalam perkembangannya, sejumlah penanggungjawab keselamatan OpenAI telah berpindah posisi atau meninggalkan perusahaan.

Kepala bagian kesiapsiagaan sebelumnya, Aleksander Madry, dipindahkan ke peran lain yang berfokus pada penalaran AI, sementara beberapa petinggi lainnya keluar dari perusahaan atau bertugas di luar bidang kesiapsiagaan dan keamanan.

OpenAI baru-baru ini memperbarui kerangka kesiapsiagaannya dengan menyatakan bahwa mereka mungkin menyesuaikan standar keselamatan jika perusahaan AI pesaing merilis model berisiko tinggi tanpa perlindungan serupa.

Kini chatbot AI generatif menghadapi pengawasan yang semakin ketat terkait dampaknya terhadap kesehatan mental.

Beberapa waktu lalu, OpenAI menghadapi gugatan hukum karena ChatGPT dituding menyebabkan delusi pengguna, meningkatkan isolasi sosial mereka, dan bahkan mendorong sebagian orang hingga bunuh diri.

Perusahaan menyatakan terus berupaya meningkatkan kemampuan ChatGPT untuk mengenali tanda-tanda tekanan emosional dan menghubungkan pengguna dengan dukungan emosional di dunia nyata.