Peserta dalam penelitian ini juga diminta untuk menebak penyedia umpan balik dengan benar. Secara total, 274 dari 457 peserta menebak dengan benar umpan balik mana yang berasal dari manusia dan mana yang dihasilkan oleh AI. Para peneliti menemukan bahwa baik usia maupun jenis kelamin tidak berdampak signifikan pada jawaban yang benar, tetapi jenis tugas kursus memengaruhi jawaban yang benar. Siswa mengidentifikasi umpan balik yang dihasilkan AI lebih mudah pada proyek yang melibatkan pengkodean daripada pada tugas bukti logis singkat.
Para peneliti percaya bahwa salah satu pertanyaan utama yang muncul dari penelitian ini adalah bagaimana persepsi kepercayaan pada AI sebagai penyedia umpan balik dapat memengaruhi implementasi umpan balik AI di dunia nyata di kelas.
“Ini memiliki implikasi penting dalam pembelajaran. Umpan balik yang baik akan memberi tahu Anda apa yang Anda lakukan dengan baik, apa yang tidak Anda lakukan, dan tindakan di masa mendatang yang dapat Anda ambil. Jika Anda kurang siap untuk memperhatikan umpan balik yang Anda dapatkan karena itu dari AI dan Anda tidak mempercayainya, Anda cenderung tidak meningkatkan pembelajaran Anda karena ruang kelas mengintegrasikan lebih banyak model ini,” kata Tanya Nazaretsky, seorang Peneliti Post Doctoral di ML4ED Lab dan penulis utama makalah tersebut.
Semakin jelas bahwa AI bisa sangat berguna dalam pendidikan untuk mendukung pembelajaran, dan ada kesiapan yang tinggi untuk menerimanya. Namun, ada hambatan yang dirasakan seputar kurangnya transparansi dan akuntabilitas, pelanggaran privasi, dan sumber data pelatihan.
“Perhatian penting adalah kemampuan AI untuk memahami konteks pembelajaran nyata di luar batasnya. Banyak siswa berkomentar AI tidak mengenal saya sebagai pribadi, AI hanya melihat apa yang ada di sistem tetapi ada faktor lain yang penting untuk proses pembelajaran dan AI tidak dapat melihatnya. Terlepas dari kesiapan untuk menerima AI, ada kurangnya kepercayaan yang nyata dan ini menghambat adopsinya dalam praktiknya,” lanjut Nazaretsky.
