Startup-ul VoicePatrol, fondat în perioada pandemiei, a atras o investiție de 3,4 milioane de dolari din partea GapMinder VC. Compania dezvoltă o soluție bazată pe inteligență artificială destinată industriei de gaming pentru a aborda problema toxicității severe în comunicarea vocală. Tehnologia este utilizată de diverse entități, de la studiouri independente până la dezvoltatori AAA, acoperind platforme de tip PC, console și VR.
Soluția VoicePatrol permite detectarea comportamentelor toxice extrem în timp real, intervenind în mai puțin de 5 secunde. Această abordare de infrastructură vizează siguranța jucătorilor în experiențele multiplayer, care sunt esențiale pentru comunitățile de gaming. Robert Herscovici, Investment Director la GapMinder VC, a declarat că echipa condusă de Matei Trebien a construit o tehnologie care răspunde unei probleme reale la o scară foarte mare, considerând că moderarea vocală va deveni un componentă esențială.
Implementarea tehnologiei aduce rezultate concrete pentru studiourile de jocuri video care utilizează serviciile companiei. În decurs de trei săptămâni de la activarea funcțiilor de avertizare și dezactivare automată a chat-ului vocal, clienții au înregistrat o reducere a toxicității severe între 55% și 75%. În același timp, costurile lunare de moderare au scăzut cu valori cuprinse între 30% și 70%, permițând extinderea acoperirii la 100% din lobby-urile publice.
Matei Trebien, CEO și cofondator al VoicePatrol, explică faptul că sistemul este conceput să permită interacțiunile competitive și „trash talk-ul”, fără a confunda acestea cu abuzul. Compania urmează trei reguli stricte: monitorizarea doar a lobby-urilor publice, evitarea ban-urilor automate în favoarea verificărilor umane și ștergerea materialelor audio după procesare. Procesul de machine learning este optimizat pentru a evita utilizarea API-urilor terțe, folosind propria infrastructură AWS pentru a reduce latența.
Strategia de dezvoltare a VoicePatrol include oferirea unui audit gratuit de două săptămâni pentru a evidenția amploarea reală a toxicității nedetectate de metodele de monitorizare manuală. Compania urmărește îmbunătățirea continuă a modelelor de machine learning pe măsură ce limbajul din gaming evoluează. Obiectivul pe termen lung este nu doar combaterea comportamentelor negative, ci și dezvoltarea unor tehnologii care să recompenseze comportamentul constructiv al jucătorilor în comunitățile online.
Industria globală de gaming este evaluată la 213,9 miliarde de dolari, o piață masivă în continuă expansiune. Pe măsură ce experiențele multiplayer devin tot mai complexe, nevoia de soluții de siguranță și moderare eficientă crește proporțional cu numărul de utilizatori. Această evoluție pune presiune pe dezvoltatori să adopte tehnologii avansate care să protejeze comunitățile fără a compromite dinamica socială a jocurilor.