Microsoft, yapay zeka içerik güvenliği hizmetini başlatıyor - Dünyadan Güncel Teknoloji Haberleri

Microsoft, yapay zeka içerik güvenliği hizmetini başlatıyor - Dünyadan Güncel Teknoloji Haberleri

Azure Anomali Dedektörü ürün müdürü Louise Han, bir blog yazısında şunları yazdı: “İçerik güvenliğine odaklanarak, yapay zekanın sorumlu kullanımını teşvik eden ve bireylerin ve bir bütün olarak toplumun refahını koruyan daha güvenli bir dijital ortam yaratabiliriz

0-1 arasında derecelendirilen içerik tüm izleyiciler için güvenli ve uygun kabul edilirken önyargılı, yargılayıcı veya sabit görüşler ifade eden içerik 2-3 veya düşük olarak derecelendirilir ”

Azure AI İçerik Güvenliği, kullandıkça öde esasına göre fiyatlandırılır



genel-13

“[When it comes to online safety] Özellikle yapay zeka tarafından oluşturulan içerik yaygınlaştıkça, insan tarafından oluşturulan içerikten daha fazlasını dikkate almak çok önemli,” diye yazdı Han “Yapay zeka tarafından üretilen çıktılarda doğruluğun, güvenilirliğin ve zararlı veya uygunsuz malzemelerin bulunmamasının sağlanması esastır Azure AI İçerik Güvenliği fiyatlandırma sayfası


Microsoft, kullanıcıların uygulamalar ve hizmetler genelinde zararlı yapay zeka ve kullanıcı tarafından oluşturulan içeriği tespit etmesine ve filtrelemesine yardımcı olan yeni bir hizmet olan Azure AI İçerik Güvenliğinin genel kullanıma sunulduğunu duyurdu ” lansmanı duyuruyor

Orta önem derecesine sahip içerik 4-5 arasında derecelendirilir ve saldırgan, aşağılayıcı, alaycı, korkutucu bir dil veya kimlik gruplarına yönelik açık saldırılar içerir; yüksek önem dereceli içerik ise zararlı eylemlerin zararlı ve açık bir şekilde tanıtımını içeren veya zararlı eylemlerin aşırı biçimlerini onaylayan veya yüceltendir Ayrıca görsel içeriği taramak, analiz etmek ve denetlemek için yapay zeka algoritmalarını kullanan görüntü özellikleri sunarak Microsoft’un 360 derece kapsamlı güvenlik önlemleri olarak adlandırdığı şeyi sağlar

Azure AI İçerik Güvenliği ayrıca nefret, şiddet, kendine zarar verme ve cinsellik de dahil olmak üzere bir dizi kritik etki alanındaki zararlı içeriği tanımlamak ve kategorilere ayırmak için çok kategorili filtrelemeyi kullanır kimlik gruplarına yönelik etkinlik 6-7 arasında derecelendirilir

Hizmet, metin ve resim algılamayı içerir ve küfür, yetişkinlere yönelik içerik, kan, şiddet ve belirli konuşma türleri dahil olmak üzere Microsoft’un “saldırgan, riskli veya istenmeyen” olarak nitelendirdiği içeriği tanımlar

Azure AI İçerik Güvenliği Hem metin hem de görsel içeriği denetlemek için çeşitli içerik kategorilerini, dilleri ve tehditleri yönetme becerisine sahiptir İçerik güvenliği, kullanıcıları yalnızca yanlış bilgilerden ve olası zararlardan korumakla kalmıyor, aynı zamanda etik standartları destekliyor ve yapay zeka teknolojilerine güven oluşturuyor İlgilenen kullanıcılar fiyat seçeneklerini kontrol edebilirler

Telif Hakkı © 2023 IDG Communications, Inc

Hizmet aynı zamanda birden çok dildeki içeriği denetlemek için de donatılmıştır ve belirli içeriğin önem derecesini 0 ile 7 arasında değişen bir ölçekte gösteren bir önem derecesi ölçüsü kullanır