Gizlilik, güvenlik, doğruluk: Yapay zeka sohbet robotları veriyle ilgili en derin endişelerinizi nasıl ele alıyor?

ChatGPT harika bir araçtır; milyonlarca insan onu makale yazmaktan tatil araştırmasına, egzersiz programları hazırlamaya ve hatta uygulama oluşturmaya kadar her şeyi yapmak için kullanıyor. Üretken yapay zekanın potansiyeli sonsuz gibi görünüyor.

Ancak müşteri hizmetleri için üretken yapay zekanın kullanılması söz konusu olduğunda, yani müşterilerinizin verilerini, sorgularını ve konuşmalarını paylaşmak anlamına geldiğinde, yapay zekaya gerçekten ne kadar güvenebilirsiniz? Üretken yapay zeka sohbet robotları, internetten alınan çok sayıda veri seti üzerinde eğitilmiş büyük dil modelleri (LLM'ler) tarafından desteklenmektedir. Bu kadar çok veriye erişimin getirdiği olanaklar çığır açıcı olsa da düzenleme, şeffaflık ve mahremiyetle ilgili çeşitli endişeleri de beraberinde getiriyor.

Yapay zeka destekli botumuz Fin'i piyasaya sürdüğümüzden bu yana, yapay zekanın müşteri hizmetlerindeki potansiyeli konusunda benzeri görülmemiş düzeyde bir heyecan gördük. Ancak aynı zamanda birçoğu iki ana temaya giren birçok soruyla da karşılaştık:

1. Müşterilerin yapay zeka sohbet robotuna sağladığı bilgilerin güvenliği ve gizliliği.
2. Yapay zeka sohbet robotunun müşterilere sağladığı bilgilerin doğruluğu ve güvenilirliği.

Burada, AI sohbet robotlarının sektörler genelinde veri güvenliğini ve gizliliğini nasıl etkilediğine ve Fin söz konusu olduğunda bu sorunlara nasıl yaklaştığımıza ilişkin anlaşılması gereken en önemli hususları ele alacağız.

Veri güvenliği ve gizlilik

Hiçbir şirket müşteri verileriyle risk almayı göze alamaz. Güven, her iş-müşteri ilişkisinin temelidir ve müşterilerin, bilgilerinin özenle ele alındığından ve en üst düzeyde korunduğundan emin olmaları gerekir . Üretken yapay zeka sonsuz fırsatlar sunuyor ancak aynı zamanda müşteri verilerinin güvenliğiyle ilgili önemli soruları da gündeme getiriyor. Her zaman olduğu gibi teknoloji, yönergelerden ve en iyi uygulamalardan daha hızlı gelişiyor ve küresel düzenleyiciler buna ayak uydurmak için çabalıyor.

AB ve GDPR

Mesela AB'yi ele alalım. Genel Veri Koruma Yönetmeliği (GDPR), dünyadaki kişisel verileri kapsayan en katı düzenleyici güçlerden biridir. Artık üretken yapay zeka oyunu değiştirdiğine göre GDPR çerçevesinin neresinde yer alıyor? Avrupa Parlamento Hizmeti tarafından GDPR'nin yapay zeka üzerindeki etkisi üzerine gerçekleştirilen bir araştırmaya göre, GDPR ile bu verileri ilk başta sağlayan kişilere açıkça açıklanmayan amaçlar için büyük miktarlarda veri işleyen ChatGPT gibi araçlar arasında belirli bir gerilim var . .

Bununla birlikte rapor, mevcut ilkelerin yapay zeka ve büyük verinin genişleyen kullanımıyla tutarlı olmasını sağlayacak şekilde uygulama ve geliştirmenin yolları olduğunu buldu. Bu tutarlılığı tam anlamıyla sağlamak için, Yapay Zeka Yasası şu anda AB'de tartışılıyor ve hem AB içindeki hem de dışındaki yapay zeka sistemlerini dağıtanlara uygulanacak katı bir dizi düzenlemenin 2023'ün sonunda - bir yıldan fazla bir süre sonra - gerçekleşmesi bekleniyor. ChatGPT Kasım 2022'de yayınlandı.

“Düzenlemeler, üretken yapay zekanın hızlı ilerlemesine yetişirken, veri güvenliğini birinci öncelik olarak sürdürmelerini sağlama sorumluluğu yapay zeka sohbet robotu sağlayıcılarına düşüyor”

Bu arada ABD'de

ABD, yapay zeka konusunda düzenleme ve kanun yapma sürecinin ilk aşamalarında olmayı sürdürüyor ancak tartışmalar devam ediyor ve en büyük teknoloji şirketlerinden yedisi bilgi paylaşımı, test etme ve şeffaflık gibi alanlarla ilgili gönüllü anlaşmalar yapmayı taahhüt etti. Bunun bir örneği, yapay zeka tarafından oluşturulan içeriğe filigran ekleme taahhüdüdür; bu basit bir adımdır ancak kullanıcı bağlamı ve anlayışı açısından önemlidir.

Bu adımlar bir miktar ilerlemeye işaret etse de sağlık sektörü gibi sektörler için bilinmeyenler yapay zekanın benimsenmesinin önünde bir engel teşkil edebilir. Amerikan Tabipler Birliği Dergisi'ndeki bir makale , kullanıcı Korunan Sağlık Bilgilerini (PHI) girmekten kaçındığı sürece teknolojinin hala kullanılabileceğini öne sürdü. Bir sonraki adım olarak, OpenAI gibi satıcılar artık bu kullanım senaryolarına sahip müşterilerin ürünlerini kullanırken HIPAA ve SOC-2 gibi düzenlemelere uymalarına olanak tanıyacak iş ortaklığı anlaşmaları geliştiriyor .

Kısacası, düzenleme üretken yapay zekanın hızlı ilerlemesine ayak uydururken, veri güvenliğini birinci öncelikleri olarak sürdürmelerini ve müşterilerine karşı açık ve şeffaf olmalarını sağlama sorumluluğu yapay zeka sohbet robotu sağlayıcılarına düşüyor.

Fin veri güvenliğini ve gizliliğini nasıl ele alıyor?

Intercom'da veri korumayı inanılmaz derecede ciddiye alıyoruz ve bu, yapay zeka sohbet robotumuzu oluşturmaya başladığımızdan beri aldığımız her kararın önemli bir bileşeni oldu. Müşteri hizmetleri ekiplerinden, kendi verilerinin ve müşteri verilerinin nasıl toplanacağı, işleneceği ve saklanacağı konusunda aldığımız en acil soruları burada bulabilirsiniz.

Fin destek içeriğimi nasıl ele alacak?

Fin, OpenAI'nin GPT-4'ü de dahil olmak üzere çeşitli modeller tarafından desteklenmektedir ve müşteri sorgularına yanıt vermek için destek içeriğinizi bu LLM'ler aracılığıyla belirli aralıklarla işleyecektir.

Fin müşteri konuşma verilerini nasıl işleyecek?

Her müşteri görüşmesi sırasında, görüşmedeki kişisel olarak tanımlanabilir bilgiler de dahil olmak üzere tüm konuşma verileri kelimesi kelimesine OpenAI'ye gönderilecek.

Destek içeriğim veya müşteri konuşma verilerim modelleri eğitmek veya geliştirmek için kullanılacak mı?

Bu yaygın bir sorudur. Pek çok yapay zeka botu, yeni modelleri eğitmek veya mevcut modelleri geliştirmek için birlikte çalıştıkları verileri birleştiriyor ve sağlayıcılar bunu güçlü bir yön olarak gösteriyor. Intercom olarak bu bakış açısına kesinlikle katılmıyoruz; müşterilerinizin güvenli görüşmeleri ve geri bildirimleri, Fin'i güçlendirmek için kullandığımız üçüncü taraf modellerin hiçbirini eğitmek için asla kullanılmayacaktır.

Verilerim OpenAI tarafından saklanacak mı?

Hayır – Sıfır Veri Saklama politikasına kaydolduk; bu, verilerinizin hiçbirinin OpenAI tarafından herhangi bir süre boyunca saklanmayacağı anlamına gelir.

Veri barındırma bölgem Fin kullanma yeteneğimi etkiler mi?

Şu anda Fin yalnızca verilerini ABD'de barındıran müşteriler tarafından kullanılabilir. Intercom'un AB Veri Barındırma koşulları uyarınca , müşterilerimizin verilerini (her türlü kişisel veri dahil) AB içinde saklamayı kabul ediyoruz. OpenAI şu anda AB barındırma hizmeti sunmamaktadır; bu nedenle, Intercom ile entegrasyonlarının bir parçası olarak kendilerine gönderilen herhangi bir kişisel bilginin ABD'de işlenmesi gerekir ve Intercom'un AB veya AU veri barındırma koşullarıyla uyumlu olmayabilir. Gelecekte Fin'in daha fazla bölgede erişilebilir olmasını sağlamak için çalışıyoruz.

Yapay zeka botunun yanıtlarının doğruluğu ve güvenilirliği

Farklı büyük dil modellerinin farklı güçlü yönleri vardır, ancak şu anda OpenAI'nin GPT-4'ü genel olarak güvenilirlik açısından mevcut en iyi yüksek lisans programlarından biri olarak kabul edilmektedir. Intercom'da, müşteri hizmetlerinin çalışma biçimini tamamen dönüştürme potansiyelinin farkına vararak OpenAI'nin ChatGPT'sini piyasaya çıkar çıkmaz denemeye başladık. Bu aşamada "halüsinasyonlar", yani ChatGPT'nin bir sorunun cevabını bilmediğinde basitçe makul görünen bir yanıt icat etme eğilimi, müşterilerin önüne konulamayacak kadar büyük bir riskti.

“Bir yapay zeka sohbet robotu yalnızca üzerinde eğitim aldığı veriler kadar iyidir”

ChatGPT'nin yayınlanmasının ardından sosyal medyada bu halüsinasyonların yüzlerce örneğinin komikten biraz dehşete kadar değiştiğini gördük. ChatGPT'nin eğitim veri kaynağının "2021'den önce tüm internet" olduğu göz önüne alındığında, bazı ayrıntıların hatalı olması şaşırtıcı değil.

Esasen bir yapay zeka sohbet robotu, yalnızca üzerinde eğitim aldığı veriler kadar iyidir. Müşteri hizmetleri bağlamında, düşük kaliteli bir veri seti, müşterileri şirketinizin markasına zarar verebilecek (yanlış, ilgisiz veya uygunsuz) yanıtlara maruz bırakabilir ve bu da müşterinin hayal kırıklığına uğramasına, müşterinin ürününüzden aldığı değerin azalmasına ve sonuçta marka bağlılığını etkiliyor.

GPT-4'ün Mart 2023'te piyasaya sürülmesi nihayet bir çözüm sundu. Makine Öğrenimi Kıdemli Direktörümüz Fergal Reid, econsultancy.com ile yaptığı röportajda şunları söyledi: "GPT-4'e erken bir göz attık ve halüsinasyonlara karşı artan güvenlik önlemlerinden ve daha gelişmiş doğal dil yeteneklerinden hemen etkilendik. Teknolojinin müşterilerin önünde kullanılabilecek eşiği aştığını hissettik."

“Şirketlerin, müşterilerinin aldığı bilgilerin doğru, güncel ve ürünleriyle alakalı olduğundan emin olmak için bu bilgiler üzerinde kontrol sahibi olması gerekiyor”

GPT-4'ün inanılmaz doğruluğuna rağmen, ilk başta "kutudan çıktığı haliyle" müşteri hizmetleri için uygun değildir. Şirketlerin, bu bilgilerin doğru, güncel ve ürünleriyle alakalı olduğundan emin olmak için müşterilerinin aldığı bilgiler üzerinde kontrol sahibi olması gerekir. GPT-4'e kendi özel yazılımımızı ekleyerek, botun mevcut bilgilerini müşterilerimizin ekipleri tarafından belirlenen belirli bir kaynakla sınırlayan korumalar oluşturduk.

Dolayısıyla, müşteri verilerinizin Fin ile güvende olduğundan emin olduktan sonra, müşterilerinize doğru bilgileri sağlamak için Fin'in bilgileri sizin kontrol ettiğiniz güvenilir kaynaklardan alacağından tamamen emin olmak isteyeceksiniz.

Fin hangi LLM tarafından desteklenmektedir?

Fin , piyasadaki en doğru ve halüsinasyonlara diğerlerine göre çok daha az eğilimli olan OpenAI'nin GPT-4'ü de dahil olmak üzere geniş dil modellerinin bir karışımı tarafından desteklenmektedir .

Fin'in yanıtlarını alacağı içeriği seçebilir miyim?

Fin, yanıtlarını , ister yardım merkeziniz, ister destek içerik kitaplığınız, ister kendi içeriğinize işaret eden herhangi bir genel URL olsun, belirttiğiniz kaynaklardan alır. Bu şekilde, Fin'in müşterilerinizin sorularını yanıtlamak için kullandığı tüm bilgilerin doğruluğundan emin olabilirsiniz ve Fin'in performansını izlerken, yapay zeka botunu destekleyen içeriği genişletebilir, iyileştirebilir veya detaylandırabilirsiniz.

Fin bir sorunun cevabını bilmiyorsa ne yapacak?

Fin her iyi destek temsilcisi gibidir; bir sorunun cevabını bulamazsa, makine öğrenimi korumalarımız bilmediğini kabul etmesini sağlar ve tutarlı bir şekilde yüksek kalite sağlamak için konuşmayı sorunsuz bir şekilde bir destek temsilcisine aktarır. destek deneyimi. ChatGPT veya diğer bazı AI müşteri hizmetleri sohbet robotlarından farklı olarak Fin, hiçbir zaman bir yanıt oluşturmaz ve sağladığı yanıtlar için her zaman destek içeriğinizden kaynak sağlar.

Müşterilerim isterlerse bir insan destek temsilcisine erişebilir mi?

Destek ekibiniz müşterilerinizi herkesten daha iyi tanır ve müşterilerinizin onlara kolayca erişebilmesi çok önemlidir. Fin, müşterilere sorgularını anında bir insan destek temsilcisine yönlendirme seçeneği sunuyor. Müşteri Fin'i denemekten memnunsa ancak sorusunun cevabını bilmiyorsa, Fin'in açıklayıcı sorular sormasını, sorguyu önceliklendirmesini ve çözülmesi için doğru ekibe devretmesini sağlayacak makine öğrenimi korkulukları oluşturduk. .

Fin'in nasıl çalıştığı hakkında daha fazla bilgi edinin veya veri güvenliği ve gizlilik önlemlerimiz hakkında daha fazla bilgi için yardım merkezimize göz atın.