Tool AI TikTok Tak Sengaja Masukkan Kutipan Hitler dan Bisa Diakses Bebas oleh Pengguna

Liputan6.com, Jakarta - TikTok secara tak sengaja mengunggah tautan (link) ke versi internal dari tool avatar digital AI barunya, tanpa batas. Hal ini memungkinkan pengguna secara bebas membuat video dengan kata-kata terkenal milik tokoh.

Kesalahan ini pertama kali ditemukan CNN. Media tersebut pun menciptakan video berisi kutipan dari Hitler dengan pesan yang menyuruh orang untuk minum pemutih, di antara frasa lainnya.

Sejak itu, TikTok telah menghapus versi internal dari tool avatar digital ini. Adapun versi yang memang dimaksudkan untuk dirilis TIkTok tetap tersedia.

Mengutip The Verge, Minggu (23/6/2024), tool AI yang dimaksud adalah Symphony Digital Avatar. Tool ini memungkinkan pelaku bisnis untuk menghasilkan iklan memakai suara aktor berbayar yang mirip dengan tokoh tertentu.

Tool ini memakai pengubah suara yang didukung AI, memungkinkan pengiklan untuk memasukkan skrip guna membuat avatar mengatakan apa yang diinginkan.

Meski hanya pengguna dengan akun TikTok Ads Manager yang bisa mengakses tool ini, versi yang ditemukan oleh CNN memungkinkan siapa pun, termasuk pemilik akun pribadi untuk mencobanya.

Sementara itu, dalam sebuah pernyataan kepada The Verge, juru bicara TikTok Laura Perez mengatakan, TikTok telah menyelesaikan kesalahan teknis yang "memungkinkan sejumlah kecil pengguna untuk membuat konten menggunakan versi uji internal tool tersebut selama beberapa hari."

TikTok dikabarkan akan merilis layanan informasi lowongan kerja. Kabar ini berdasarkan sebuah laporan dari Axios.

2 dari 4 halaman

Konten akan Ditolak karena Langgar Pedoman Komunitas TikTok

Perbesar

Logo TikTok. Liputan6.com/Iskandar

Adapun saat CNN menemukan tool internal tersebut, tool itu memungkinkan mereka menghasilkan video yang membacakan "Letter to America" dari Osama bin Laden, hingga video yang menyuruh orang untuk memilih di hari yang bukan Pemilu.

Tak ada satu pun dari video yang diproduksi CNN memiliki watermark yang mengungkapkan kalau video itu hasil buatan AI dan merupakan fitur resmi dari TikTok Symphony Digital Avatar.

CNN juga tidak mengunggah video yang mereka buat ke TikTok, namun, Laura Perez menyebut, kalau konten tersebut diunggah di TikTok, konten akan ditolak karena dianggap melanggar kebijakan.

Walaupun TikTok telah menghapus versi internal tool ini, timbul pertanyaan apakah orang-orang akan menemukan cara lain untuk menyalahgunakan tool pembesut avatar digital itu dan apakah TikTok bakal siap menghadapinya?

3 dari 4 halaman

Induk TikTok 'ByteDance' Konfirmasi soal PHK Karyawan Tokopedia

Tampilan TikTok Shop mirip Tokopedia — Keranjang TikTok Shop telah kembali hadir di aplikasi TikTok. Ketika dibuka, tampilannya hadir dengan nuansa warna hijau, mirip dengan Tokopedia (Liputan6.com/ Agustin Setyo Wardani)

Sementara itu, perusahaan induk TikTok, ByteDance, akan melakukan Pemutusan Hubungan Kerja (PHK) kepada staf di unitnya di Indonesia (Tokopedia).

Kabar itu dikonfirmasi oleh seorang juru bicara ByteDance, dikutip dari Business Standard, Sabtu (15/6/2024)--menyusul kesepakatan perusahaan membeli e-commerce lokal Tokopedia dan menggabungkannya dengan operasi TikTok.

Namun, ByteDance tidak menyebutkan berapa banyak karyawan yang akan terkena dampak. Bloomberg sebelumnya melaporkan akan ada 450 orang yang kena PHK.

Pada Januari 2024, ByteDance menyelesaikan kesepakatan untuk membeli saham mayoritas di Tokopedia dari grup GoTo.

4 dari 4 halaman

Kata Jubir Soal PHK

Laman utama aplikasi Tokopedia. (Sumber: Tokopedia)

Juru bicara ByteDance Nuraini Razak mengatakan kepada Reuters dalam sebuah pernyataan bahwa perusahaan akan membuat penyesuaian yang diperlukan sebagai akibat dari penggabungan TikTok dan Tokopedia.

“Kami mengidentifikasi area-area untuk memperkuat organisasi kami dan menyelaraskan tim kami dengan tujuan perusahaan,” katanya, seraya menambahkan bahwa perusahaan bertujuan untuk mendukung karyawan selama masa transisi ini.

ByteDance memiliki operasi e-commerce sendiri di Indonesia melalui aplikasi TikTok, namun dilarang pemerintah berdasarkan peraturan yang menyatakan bahwa aplikasi media sosial tidak dapat beroperasi sebagai platform e-commerce.

Tokopedia adalah salah satu platform e-commerce terkemuka dan terbesar di Asia Tenggara.