“Mereka membutuhkan mitra pelatihan AI tingkat lanjut untuk menyediakan pembelajaran penguatan dengan umpan balik manusia.”
OpenAI tidak menanggapi permintaan komentar.
AI generatif menghasilkan konten baru berdasarkan data masa lalu yang digunakan untuk melatihnya. Namun, terkadang AI tidak dapat membedakan antara informasi yang benar dan salah dan menghasilkan keluaran palsu yang dikenal sebagai halusinasi. Dalam satu contoh penting, pada tahun 2023, sebuah chatbot Google membagikan informasi yang tidak akurat tentang satelit mana yang pertama kali mengambil gambar sebuah planet di luar tata surya Bumi dalam sebuah video promosi.
Perusahaan AI menyadari bahwa halusinasi dapat menggagalkan daya tarik GenAI bagi bisnis dan mencoba berbagai cara untuk menguranginya, termasuk menggunakan pelatih manusia untuk mengajarkan konsep fakta dan fiksi.
Sejak bergabung dengan OpenAI, Invisible mengatakan telah menjadi mitra pelatihan AI bagi sebagian besar perusahaan GenAI, termasuk Cohere, AI21, dan Microsoft. Cohere dan AI21 mengonfirmasi bahwa mereka adalah klien. Microsoft tidak mengonfirmasi bahwa mereka adalah klien Invisible.
“Semua perusahaan ini menghadapi tantangan dalam pelatihan, yang mana biaya nomor satu mereka adalah daya komputasi, dan biaya nomor dua adalah pelatihan mutu,” kata Pedraza.
OpenAI, yang memulai kegilaan seputar GenAI, memiliki tim peneliti yang diberi nama “Tim Data Manusia” yang bekerja dengan pelatih AI untuk mengumpulkan data khusus guna melatih modelnya seperti ChatGPT.
Peneliti OpenAI melakukan berbagai eksperimen seperti mengurangi halusinasi atau meningkatkan gaya penulisan dan bekerja dengan pelatih AI dari Invisible dan vendor lain, kata sumber yang mengetahui proses perusahaan tersebut.
Setiap saat, lusinan eksperimen sedang dijalankan, sebagian menggunakan alat yang dikembangkan oleh OpenAI dan lainnya menggunakan alat milik vendor, kata orang tersebut.
Berdasarkan apa yang diinginkan perusahaan AI – mulai dari menjadi lebih baik dalam sejarah Swedia atau melakukan pemodelan keuangan – Invisible mempekerjakan pekerja dengan gelar yang relevan untuk proyek tersebut, mengurangi beban pengelolaan ratusan pelatih oleh perusahaan AI.
“OpenAI memiliki sejumlah ilmuwan komputer paling hebat di dunia, tetapi mereka belum tentu ahli dalam sejarah Swedia, atau soal kimia, atau soal biologi, atau apa pun yang bisa Anda tanyakan,” kata Pedraza, seraya menambahkan bahwa lebih dari 1.000 pekerja kontrak melayani OpenAI sendiri.
