Sesi Tanıma ve Sohbet Denetimi: Sorumlu Topluluk Yönetimi

Gece vardiyası. Kulaklıkta kalın bir ses, sonra fısıltı. Aralarda şaka, argo, iki dil birden. Ekranda canlı yazıya döküm akıyor. Bir kelimeyi sistem “tehdit” sanıyor, ama bağlamda değil. Moderatör soluk alıyor, geri alıyor, işareti düzeltiyor. Ama oda çoktan yeni bir konuya geçti. Hız, netlik, adalet. Hepsi aynı anda lazım.

Bu yazı, ses tanıma (ASR) ve sohbet denetimi ile güvenli, saygılı, kapsayıcı bir topluluk kurmak için net bir yol haritası verir. Basit dil, pratik adım, açık risk ve ölçü. Teknik var, ama sadedir. Hukuk var, ama somuttur. İnsan odağı her yerde.

Önce kavramları ayıralım

Ses tanıma (ASR) konuşmayı metne çevirir. Sohbet denetimi ise metne kuralları uygular. İkisi ayrı iş, ama zincir gibi bağlıdır. Zincir şöyle akar: Ses → ASR → Metin → Politika → Eylem (uyarı, gizleme, inceleme).

ASR kalitesi kötü olursa, denetim adil olmaz. Bu yüzden kıyas testleri şart. Ölçü ve kıstas için NIST konuşma tanıma değerlendirmeleri iyi bir referanstır.

Risk ısı haritası: Nerede ne yanar?

Canlı sesli odalar: Hız yüksek, bağlam kayar. Oyun içi sohbet: Genç kullanıcı çok, argo bol. Müşteri destek hattı: Veri hassas, yasal risk büyük. Yayın platformu: Kitle geniş, çok dilli akış.

Risk tetikleyicileri: Taciz, nefret, tehdit, çocuk güvenliği, kendine zarar, kişisel veri, dolandırıcılık. Her tetikleyici için temiz örnek ve gri örnek gerekir. Gri örnekler “insan döngüde” akışına düşmelidir.

Kavramların toplumsal etkisi için UNESCO çevrimiçi şiddet rehberi net çerçeve sunar.

“Merhaba. Sistemimiz bu içeriği riskli olarak işaretledi. İnceledik ve size katılıyoruz: İçerik kurallara uygun. Karışıklık için üzgünüz. Görüşünüz için teşekkürler. Bu geri bildirim, araçlarımızı iyileştirmemize yardım ediyor.”

Etik ve hukuk: Net sınırlar

Türkiye’de kişisel veri için ilk durak KVKK’dır. Amaç sınırlaması, veri minimizasyonu, saklama süresi, aydınlatma metni açık olmalıdır.

AB kullanıcılarınız varsa, GDPR m.5(1)(c) veri minimizasyonu ilkesini pratik ele alın: Sesi sadece gereken sürede tutun, mümkünse anonimleştirin, model eğitimi için ayrı izin alın.

Yeni yapay zekâ kuralları yaklaşıyor. AB’nin genel çerçevesi için Avrupa’nın Yapay Zekâ yaklaşımına göz atın.

Ayrıca otomasyon şeffaf olmalı. Neden işaretlendi sorusuna sade bir açıklama verebilmek için ICO’nun açıklanabilirlik rehberi iyi bir pratiktir.

Hızlı bakış tablosu

Aşağıdaki tablo, farklı moderasyon yaklaşımlarını, senaryolarını, artı-eksi yönlerini ve izlenecek metrikleri bir arada sunar. İlke zemini için OECD Yapay Zekâ İlkeleri uyumlu bir kılavuzdur.

Mimari: Sondan başa düşün

İlk soru: “İtiraz sürecim nasıl işleyecek?” Cevabı kurmadan modele geçmeyin. Sonra veri hattını net çizin: Ses → ASR → Metin temizleme → Sınıflandırma → Güven skoru → İnsan inceleme/itiraz → Kayıt ve rapor.

Çok dilli akış ve argo yaygındır. Eğitim için açık veri kaynakları, mesela Mozilla Common Voice, iyi bir başlangıçtır. Ama kendi veri örnekleriniz olmadan sonuç zayıf kalır.

Hassas sözcükler bağlamla anlam değiştirir. “Patlatmak” oyunda şaka olabilir, başka yerde tehdit. Bu yüzden kelime listesi tek başına yetmez; örnek cümle ve etiket gerekir.

Risk yönetimi için bir standart izleyin. ISO/IEC 23894 AI risk yönetimi güvenli dağıtım ve izleme için sağlam bir iskele sunar.

Metrikler: İyi nedir, ne zaman iyi sayılır?

ASR için Temel: Kelime Hata Oranı (WER) ve gecikme (latency). Canlı yayın için hedef düşük WER ve kararlı gecikmedir. Örnek: WER < %12, ortalama gecikme < 300 ms.

Denetim için: FPR (masum içeriği işaretleme), FNR (zararlı içeriği kaçırma), kapsama, SLA (yanıt süresi). Adalet için: Dil varyantı bazlı hata oranı, eşit hata oranları.

Risk yaklaşımı, süreç ve ölçü bütünlüğü için NIST AI Risk Management Framework pragmatik bir çerçeve sağlar.

İnsan döngüde: Operasyonun kalbi

İnsan inceleme ekibi, kalite çıpasıdır. Net rehber, ortak örnek seti, haftalık kalibrasyon, ikincil inceleme hattı gerekir. Zor içerik için psikolojik destek verin; rotasyon ve mola planı yapın.

Eğitim ve pratik için TSPA kaynakları yararlıdır. İtiraz mekanizması şeffaf olsun; yanıtlar kısa, saygılı, ölçüye dayalı olsun.

Dağıtımda güven: MLOps ve gözetim

Model sürümleyin. Test setini temiz tutun. Gölge mod (shadow) ile gerçek trafiği risksiz izleyin. Küçük bir kitle ile canary yayına çıkın, sonra genişletin.

Loglar denetlenebilir olmalı. Gizli veri sızıntısına karşı erişim ve imha politikası açık olmalı. Saldırı yüzeyi için güvenlik kontrolleri kurun.

AI güvenlik riskleri için OWASP LLM Top 10 iyi bir kontrol listesidir.

Kenar durumlar ve kötüye kullanım

Arka plan gürültüsü, ses klonlama, TTS ile kandırma, emoji ve simge ile kaçış, kod karışık dil (code-switch) yaygındır. Eşik değerleri tek katman olmasın; çok aşamalı karar ağacı kurun.

Toksisite araştırmaları ve açık veri denemeleri için Conversation AI çalışmaları faydalıdır. Kendi risk test setinizi, kendi bağlamınıza göre üretin.

90 günlük sahaya iniş planı

0–30 gün: Varlık haritası (hangi ses, nerede doğar, nerede saklanır), politika taslağı, temel ASR seçimi, örnek veri etiketi. POC kurun, küçük bir pilotla ölçün. İlham ve vaka analizi için Berkman Klein Center içerikleri ufuk açar.

31–60 gün: Hibrit mimariyi kurun. Metrik panosu açın (WER, FPR/FNR, gecikme, şikâyet oranı). Moderatör eğitimi yapın. Shadow mod ile gerçek trafiği takip ederek eşikleri ayarlayın.

61–90 gün: Kademeli yayına çıkın. İtiraz sürecini devreye alın. A/B iletişim şablonları ile netlik ve saygıyı test edin. Hassas veri akışlarını gözden geçirmek için Future of Privacy Forum rehberlerine bakın.

Dikey örnek: Oyun ve kumar toplulukları

Bu alan hızlıdır. Espri ve argo çoktur. Genç kullanıcı oranı yüksektir. Yaş doğrulama, risk tetikleyicileri (dürtü, kayıp telafi, gerçek para) ve reklam dili sıkı izlenmelidir. “Sorumlu oyun” mesajı açık ve görünür olmalıdır.

Pazar görünümünü ve site dilini okumak, topluluk metnini ayarlamak için farklı kaynaklar incelenebilir. Örneğin, yeni sitelerin nasıl sunulduğunu, lisansın nasıl belirtildiğini ve uyarı dilini görmek adına Casino online nuovi nel 2025 gibi derleme sayfalara bakmak, moderasyon ekibine bağlam hissi verebilir. Buradaki amaç, oyun oynamayı teşvik etmek değil; vitrin dilini ve kullanıcı sorularını anlamaktır.

Platform düzeyinde çevrimiçi güvenlik ilkeleri için Ofcom Online Safety rehberleri açık bir çerçeve sağlar. Reklam ve promosyon metinleri için ekstra hassas eşikler belirleyin; kullanıcı itirazlarına öncelik verin.

Atölye Notu: Basit ama etkili şablonlar

• Uyarı metni: “Bu ifade politikamıza aykırı olabilir. Lütfen kişisel saldırıdan kaçınalım. Teşekkürler.”
• İtiraz yanıtı: “Başvurunuzu aldık. 24 saat içinde dönüş yapacağız. Bu içerik şu maddeye göre işaretlendi: [madde].”
• Şeffaflık notu: “Bu sohbet, topluluk güvenliği için otomatik ve insan inceleme ile korunur.”

SSS — Kısa, net cevaplar

Çok dilli toplulukta yanlış pozitifleri nasıl düşürürüm?

Yerel örnek seti üretin. Dil varyantı için ayrı eşik kullanın. Gri skorlu içerikte insan incelemeyi zorunlu kılın.

İtiraz yanıtını kaç saatte vermeliyim?

Hedef 24–48 saat. Karmaşık vakada ön yanıt verin ve süreyi bildirin.

ASR hatası yüzünden adil olmayan karar oldu, ne yapmalıyım?

Vaka kaydını açın, WER ve ses kalitesini kontrol edin, eşik ve model notlarını güncelleyin. Gerekirse içeriği geri yükleyin ve özür dileyin.

Moderatörleri nasıl korurum?

Zor içerik için rotasyon, mola, psikolojik destek ve kapalı vaka inceleme oturumları planlayın.

Erişilebilirlik için temel ilkeler adına W3C WAI rehberlerini uygulayın: Yüksek kontrast, klavye ile gezinme, açık dil.

Mini kontrol listesi

• Politika açık ve örnekli mi?
• Veri minimizasyonu ve saklama süresi net mi?
• Çok dilli test seti hazır mı?
• İnsan döngüde akışı tanımlı mı?
• İtiraz süresi ve şablonları hazır mı?
• Raporlama ve sürüm notları var mı?

Kapanış: Yarın başlayın

1. Bugün: Politika belgenizi sadeleştirin; örnekler ekleyin.
2. Bu hafta: ASR ve denetim ölçü panosu açın (WER, FPR/FNR).
3. 14 gün: Gölge mod deneyini başlatın; eşikleri kalibre edin.
4. 30 gün: İtiraz akışını yayına alın; şeffaflık notu ekleyin.
5. 90 gün: Red-team testi yapın; adalet metriklerini yayınlayın.

Yazar ve inceleme

Yazar: Güven ve Emniyet (Trust & Safety) alanında çalışır; ses tanıma ve içerik denetimi projelerinde görev almıştır. Eğitim: Veri bilimi, iletişim.

Gözden Geçiren (opsiyonel): Hukuk/uyum uzmanı.

Şeffaflık: Bu yazıda yer alan dış bağlantılar bilgilendirme amaçlıdır. Kumarla ilgili örnek, topluluk dili ve “sorumlu oyun” bağlamını incelemek içindir.

İlk yayın: 04.09.2026 — Son güncelleme: 04.09.2026

Kaynakta geçen ana bağlantılar

• NIST ASR değerlendirmeleri
• UNESCO çevrimiçi şiddet rehberi
• KVKK
• GDPR m.5(1)(c)
• AB Yapay Zekâ yaklaşımı
• ICO açıklanabilirlik rehberi
• OECD AI İlkeleri
• Mozilla Common Voice
• ISO/IEC 23894
• NIST AI RMF
• TSPA Resources
• OWASP LLM Top 10
• Conversation AI
• Berkman Klein Center
• Future of Privacy Forum
• Ofcom Online Safety
• W3C WAI