GPT etkisi: Müşteri hizmetlerinde yeni bir çağ

Büyük dil modelleriyle ilgili son gelişmeler, tüm beklentilerimizi aştı. GPT ve bunun müşteri hizmetlerinin geleceğini nasıl şekillendireceği hakkında bir sohbet için sektör uzmanlarını bir araya getirdik.

Bizi şaşırttığını söyleyemeyiz. Sektör, özellikle bilgi işlem gücü ve veri depolamadaki ilerlemeler giderek daha büyük modelleri eğitmeyi mümkün kıldığından, yapay zeka ve makine öğreniminin çalışma şeklimizi kökten dönüştürme potansiyeline yıllardır övgüyle söz ediyor. Ancak OpenAI'nin ChatGPT'sindeki son gelişmelerin yeni olasılıkları bu kadar çabuk ortaya çıkaracağını pek beklemiyorduk.

Intercom'da her zaman öğrenmek için sevk ettik. Yalnızca yeni özellikleri hızlı bir şekilde sunarak uygun geri bildirim alabilir, ondan öğrenebilir ve müşterilerimize daha iyi hizmet vermek için tekrar tekrar yineleyebiliriz. Ve doğal olarak, bu yeni teknolojiyle yaptığımız şey buydu. Geçtiğimiz birkaç ay içinde, 160 müşteriye yapay zeka destekli birkaç özellik gönderdik. Ve bu büyük dil modellerinin (LLM'ler) hayatımızda nasıl bir rol oynayacağını söylemek için henüz çok erken olsa da, özellikle müşteri hizmetleri söz konusu olduğunda çok önemli bir dönüm noktasına ulaştığımıza inanıyoruz.

Bu nedenle, geçen hafta, GPT'nin ticari kullanım örneklerini biraz daha derinlemesine incelemek için bir web semineri düzenledik. Bu inovasyon dalgası geçmiş dalgalardan farklı mı? Çalışma şeklimizi ve işletmelerin müşteriler ve potansiyel müşterilerle etkileşim kurma şeklini değiştirecek mi? Yeni nesil girişimleri tetikleyebilir mi? Size biraz daha fikir vermek için, başlangıç ​​sahnesindeki birkaç kodamanları tartışmaya davet ettik.

Bugünkü bölümde şunları duyacaksınız:

• Ethan Kurzweil, Intercom yönetim kurulu üyesi ve Bessemer Venture Partners Ortağı
• Makine Öğrenimi Direktörümüz Fergal Reid
• Krystal Hu, VC ve Reuters Startups Muhabiri
• Talia Goldberg, Bessemer Venture Partners'ın Ortağı

ChatGPT gibi büyük dil modelleri, işletmelerin bu teknolojiyi nasıl bünyesine kattığı ve bunun müşteri hizmetleri sektörünün geleceğini nasıl şekillendireceği hakkında konuşacaklar.

Zamanınız kısa mı? İşte birkaç önemli çıkarım:

• Büyük dil modellerinin yapışkan kullanım durumlarını görmeye başlıyoruz – düzenliliği ve doğal dil kullanımı nedeniyle müşteri hizmetlerini artırmak için büyük bir potansiyel var.
• Şimdilik, profesyonellerin işlerinde daha üretken ve verimli olmalarına yardımcı olabilecekleri için, büyük dil modellerinin insan yeteneklerini değiştirmek yerine artırması bekleniyor.
• Intercom'un beta deneyinin başarısını ölçmek için henüz çok erken olsa da, en son yapay zeka destekli özelliklerin benimsenmesi ve kullanımı çok büyük olmuştur ve erken geri bildirimler çok umut vericidir.
• Büyük dil modelleri çok hızlı bir şekilde çok pahalı olabilir. Yine de, zamanla, daha fazla deney ve keşif için izin vererek, daha ucuz ve daha yaygın hale gelecekler.
• Hala halüsinasyonlarla ilgili sorunlar olsa da, durum daha yüksek derecede güven gerektirdiğinde daha güvenilir hale getirmek için bu modeli yapılandırabilir ve kısıtlayabilirsiniz.
• Modeller herkese uyan tek beden değildir. Gelecekte, şirketlerin farklı iş sorunlarına uyan farklı, özelleştirilebilir modellerden oluşan ısmarlama bir karışım kullanması muhtemeldir.

Tartışmamızdan hoşlanıyorsanız, podcast'imizin diğer bölümlerine göz atın. Apple Podcast'lerini, Spotify'ı, YouTube'u takip edebilir veya seçtiğiniz oynatıcıda RSS akışını yakalayabilirsiniz. Aşağıda, bölümün hafifçe düzenlenmiş bir kopyası var.

ChatGPT'nin yükselişi

Krystal Hu: Katılmak için zaman ayıran herkese çok teşekkür ederim. Ben Krystal Hu ve Reuters için girişim ve startupları takip ediyorum. Çoğunuzun bildiği gibi, yapay zeka ve ChatGPT dalgası son birkaç ayda sahneye çıktı ve işimin büyük bir kısmı teknolojiyi ve onun hayatın farklı yönlerini nasıl değiştirdiğini anlamak. Bugünün konusu için, ChatGPT'nin müşteri hizmetlerinin geleceğini nasıl şekillendireceğine odaklanacağız. ChatGPT ve büyük dil modellerinin tam olarak ne olduğunu, bu teknolojinin nasıl kullanılacağını, mevcut ve gelecekteki teknolojiler üzerindeki etkisini, startup'ların bu teknolojiyi nasıl bünyesine kattığını ve yeni şirketlerin nasıl kurulduğunu tartışacağız.

Bugün harika bir panelimiz var. Bessemer'den iki harika yatırımcı: Talia Goldberg ve Ethan Kurzweil. San Francisco merkezli Talia, tüketici interneti ve yazılım işletmelerine yatırım yapıyor ve ServiceTitan ve Discord gibi şirketlerle çalışıyor. Ethan Kurzweil de San Francisco'da bulunuyor ve geliştirici platformları, yeni veri altyapısı, dijital tüketici uygulamaları ve kripto dahil olmak üzere çeşitli sektörlerde yatırımcılara liderlik ediyor.

Ardından, Intercom'un Makine Öğrenimi Direktörü Fergal Reid bize Intercom'un bu teknolojiyi en son tekliflerine nasıl dahil ettiğine dair içeriden bir bakış sunacak – birkaç yapay zeka yardımcısı özelliği de dahil. Beyinlerini seçmeyi ve hem başlangıç ​​hem de girişim cephesinde gördüklerini ve GPT'nin getirebileceği değişiklikleri duymayı dört gözle bekliyorum. Süreç boyunca, herhangi bir sorunuz varsa, sorunuzu sohbette sormaktan çekinmeyin ve ardından, sohbetin sonunda soruları gözden geçirmek için yaklaşık 15 ila 20 dakikamız olacak.

Sanırım seninle başlayacağım Fergal, çünkü sen odadaki teknoloji uzmanısın ve GPT'yi Intercom'un tekliflerine dahil etmede ön saflardasın. Belki bize biraz arka plan vererek ve GPT ile ChatGPT'nin ne olduğunu ve bu teknolojiyi dahil etmenin sizin için nasıl ortaya çıktığını açıklayarak başlayabilirsiniz?

"Kuralları kodlamayacağım ve özellikle 'X'e karşı Y'yi tahmin etmeyi öğrenin' demeyeceğim"

Fergal Reid: Teknolojide çok heyecan verici bir dönem. Pek çok insanın bu noktada muhtemelen ChatGPT'yi gördüğünü varsayacağım çünkü çok büyük bir dalga yarattı. Ama teknoloji açısından, benim dar dünya görüşümle, yaklaşık beş yıldır Intercom'dayım ve makine öğrenimi ekibini yönetiyorum. Ve yaptığımız makine öğrenimi şeyleri, bir süredir var olan algoritmaları kullanıyor – denetimli öğrenme algoritmalarını, şeyleri birbirinden ayırmayı öğrenen algoritmaları kullanıyor. "Hey, hadi birinin bir şey mi yoksa başka bir şey mi isteyeceğini tahmin edelim" gibi olabilirsiniz. Bu makine öğrenimi sistemleriyle, onlara çok sayıda eğitim verisi veriyorsunuz: "Hey, bu, birisi size bir soru sorduğunda bir örnek ve bu, birisi size başka bir soru sorduğunda bir örnek."

Ve bu en son üretici yapay zeka dalgasında yeni ve farklı olan şey, bir modele bir şeyi veya başka bir şeyi tahmin etmeyi öğretmek yerine, “Hey, model. Bu türden yeni verilerin nasıl oluşturulacağını öğrenin. Bir görüntünün nasıl oluşturulacağını öğrenin.” Ona biraz metin verirsiniz ve o metinle eşleşen bir görüntü oluşturmayı öğrenir veya ChatGPT ile onunla konuşup biraz metin verirsiniz ve buna yanıt olarak daha fazla metin oluşturmada oldukça başarılı olur.

"Gerçekten büyük bir modelimiz var, ona İngilizce sorular soruyoruz, bazı şeyleri İngilizce yapmasını söylüyoruz ve ona söylediğimizi yapmakta oldukça iyi."

Bu sadece makine öğrenimi yapmanın farklı bir yolu. Kuralları kodlamayacağım ve özellikle "X'e karşı Y'yi tahmin etmeyi öğrenin" demeyeceğim. Bunun yerine, gerçekten büyük miktarda eğitim verisi alacağım, bu eğitim verilerini tahmin etmede çok iyi olan bir model yapacağım ve ardından, umarım, yeni örnekler üreterek faydalı şeyler yapmasını sağlayabilirim.

ChatGPT ile ona bir metin vererek ve "Sıradakini oluştur" diyerek ona bir şey sorarsınız. Ve şaşırtıcı bir şekilde, bu oldukça kullanışlı. "Hey, işte bir müşteri desteği görüşmesi ve bu, destek görüşmesinin özeti" diyebilir ve ardından bunu ChatGPT'ye verebilirsiniz; bundan sonra ne olacağını veya bundan sonra ne görmeyi bekleyeceğini üretecektir. Ve belki de “Özet bu” diyorsunuz ve sonra bir özet çıkıyor. Ve bu çok faydalı. Özellikleri ve sistemleri oluşturmanın çok genel bir yoludur. Her küçük şey için yeni bir makine öğrenimi sistemi kodlamak yerine, gerçekten büyük bir modelimiz var, ona İngilizce sorular soruyoruz, her şeyi İngilizce yapmasını söylüyoruz ve ona söylediğimizi yapmakta oldukça iyi. Ve böylece Intercom'da bunu ürün özellikleri oluşturmak için kullanmaya çalışıyoruz.

Müşteri hizmetleri için oyun değiştirici

Krystal Hu: Alanın üretken yatırımcıları olarak Talia ve Ethan'ı sahneye çıkarmak istiyorum. Birkaç teknolojik dalga gördünüz. Üretken yapay zeka ile ilgili bunun ne farkı var ve sizi heyecanlandıran uygulama alanları neler?

Talia Goldberg: Elbette, beni ağırladığınız için teşekkürler. Bu, üretken yapay zekanın ne olduğuna dair harika bir genel bakıştı. Komik, bu toplantıdan hemen önce, geçen yaz, belki sekiz ya da dokuz ay önce blogumuzda yayınladığımız bir makaleye bakıyordum ve bu, ChatGPT kullanıma sunulmadan birkaç ay önceydi, ancak çok fazla ivme görmeye başlıyorduk. ve özellikle büyük dil modellerinde olup bitenler ve bu gerçekten güçlü yeni yapay zeka dalgası olarak yapay zeka ve üretken yapay zekanın potansiyeli konusunda heyecanlanmak için sebep.

Ve bir tahminimiz vardı: "Bugün çevrimiçi içeriğin %1'inden azı yapay zeka kullanılarak üretiliyor ve önümüzdeki 10 yıl içinde en az %50'sinin yapay zeka tarafından üretileceğini veya artırılacağını tahmin ediyoruz." Bunu tartışıyorduk ve söylemenin çılgınca bir şey olduğunu düşündük, ama kahretsin, AI'nın gördüğümüz birçok bilgiyi ne kadar hızlı dönüştürebileceğini hafife aldık. Çevrimiçi etkileşimlerimiz, içeriğimiz ve medyamızın önümüzdeki iki yıl içinde %50 olabileceğini söyleyebilirim. Bunun sonuçları, bence, müşteri desteği de dahil olmak üzere birçok bilgi ve bilgi çalışmasında çok geniş.

"Teknolojinin bozmak, iyileştirmek, çoğaltmak ve daha iyi hale getirmek için olgunlaştığı ve müşteri desteğinin bunun için doğru yolda olduğu yapışkan kullanım durumlarını hemen görüyorsunuz"

Krystal Hu: Ethan, bir süredir Intercom ile çalışıyorsun. Müşteri hizmetlerinin beklediğini düşündüğünüz an bu mu? Çünkü Intercom gibi müşteri hizmetleri uygulamaları için teknoloji ve fırsatın altın değerinde olduğunu düşünüyorum.

Ethan Kurzweil: Evet, bunun büyük dil modellerinin en son uygulaması ve yapabilecekleri olduğunu düşünüyorum. Geri adım atıp akıllı telefon anı, iPhone anı ve bunun gibi teknoloji değişiklikleri ve platform değişimleri hakkında düşünürseniz, erken olan şey, tüm bu heyecanın olması ve birçok geliştiricinin ve yaratıcının bir alana hücum etmesidir ve sonra Hangilerinin ilk yapıştığı kanayan son uygulamalar olduğunu ve sizi biraz hayal kırıklığına uğratmadığı uygulamaları gördüğünüz bu arınma var. Muhtemelen bu eğride hala biraz erken olduğumuzu düşünüyorum, ancak teknolojinin bozmak, geliştirmek, artırmak ve daha iyi hale getirmek için olgunlaştığı yapışkan kullanım durumlarını hemen görüyorsunuz ve müşteri desteği bunun için düz yolda.

Intercom ile neredeyse sekiz buçuk yıldır çalışıyorum ve Intercom, hazır olduklarında yeni teknolojileri benimseme konusunda her zaman ön saflarda yer alan bir ekip olmuştur. Ve iki ya da üç yıl önce insanların "Otomasyon, otomasyon, otomasyon" dediğini hatırlıyorum. Ve Intercom'daki ürün liderliği her zaman, “Henüz yeterince iyi değil. Bunu yapabiliriz, bazı özellik istek formlarında bir kutucuğu işaretleyebilecek şekilde yapıştırabiliriz, ancak bu gerçekten iyi bir insan benzeri akışa yol açmaz. İnterkom her zaman internet işini kişiselleştirme fikri etrafında kurulmuştur. Ve kulağa kişisel gelmeyen bir botunuz varsa, buna diktir.

Intercom'un bunu kendi akışında bu kadar başarılı bir şekilde kullanması, size teknolojinin hazır olduğunu ve bunun etkisini göreceğimiz birçok şeyden biri olduğunu gösteriyor. Her şey bir anda değil, ama zamanla, bir makineye insan benzeri konuşma yeteneği vererek çok daha fazla etki göreceğiz.

"Eğriye ve gelişme hızına bakıyorsunuz ve bundan birkaç ay sonra, birkaç çeyrek sonra ve bundan birkaç yıl sonra daha da iyi olacak"

Talia Goldberg: Bir şey ekleyebilirsem, müşteri desteğinin yapay zekanın etki yaratmaya başlaması için mükemmel bir başlangıç ​​alanı olduğunu düşünüyorum. Bunun nedenlerinden biri de doğal dili kullanmasıdır. AI ile İngilizce kullanarak iletişim kurabilirsiniz ve o, İngilizce olarak yanıt verecektir. Kodlamanıza gerek yok - bilgi üretir. İşte müşteri hizmetleri ve desteği böyle bir şeydir - kişiselleştirilebilen harika, insan benzeri deneyimler oluşturmak, şikayetleri çözmek ve zamanla daha iyi hale gelmek. Böylece, müşteri desteğinde kullanarak bu harika geri bildirim döngüsünü de elde edersiniz.

Ethan'ın dediği gibi, bugün bazı zorluklar ve uç noktalarda pürüzlü şeyler olsa da, teknoloji ve potansiyel şimdiden gerçekten harika. Eğriye ve gelişme oranına bakıyorsunuz ve bundan birkaç ay sonra, birkaç çeyrek sonra ve bundan birkaç yıl sonra daha da iyi olacak. Bu, bizi en çok heyecanlandıran kategorilerden biri ve her işletmenin bundan yararlanabileceğini ve üzerinde düşünmesi gerektiğini düşünüyoruz.

Krystal Hu: Fergal, Intercom'daki son özellik lansmanı ve ChatGPT'yi buna nasıl dahil ettiğiniz hakkında bize genel bir bakış sunmanın tam zamanı.

Fergal Reid: Kesinlikle. Ve sadece Talia ve Ethan'ın duygularını burada tekrarlamak için, alanda o kadar çok yapı var ki, bir müşteri destek temsilcisinin yaptığı o kadar çok şey var ki geçen gün yaptıklarının aynısını yapıyorlar, ya da belki bir tane Takım arkadaşlarının %50'si daha önce yaptı ve o kadar çok düzenlilik ve yapı var ki, insanları daha hızlı hale getirmek için yapay zekayı öğrenen ve kullanan bir sistem için gerçekten olgunlaşmış gibi geliyor.

"Başlamak için en iyi yerin döngüdeki bir insan olduğunu hissettik. Birisi Gelen Kutusu'na sarılmış ve onları daha hızlı hale getirmek istiyoruz, ancak yine de kontrol edip onaylayabiliyorlar"

ChatGPT piyasaya sürüldüğünde, aynı zamanda OpenAI, geliştiricilerin kullanımı için bu yeni modeli, text-davinci-003'ü piyasaya sürdü. OpenAI ile uzun süredir bir ilişkimiz var ve bu modele baktığımızda gerçekten kullanışlılık eşiğini aştığını ve onunla inşa edebileceğimizi hissettik. Ve böylece, bazı ilk kıyaslamalar yaptık. İnsanlar Gelen Kutusu'nda çok zaman harcıyorlar ve yapmaları gereken çok şey var, az önce baktıkları konuşmanın özetini teslim etmeden önce yazmak. Bu teknoloji, konuşmayı özetleme konusunda gerçekten harika görünüyordu ve biz de "Bunu yapan bir özellik geliştirip beta müşterilerimize sunabilir miyiz?" Intercom'un bu "öğrenmek için gemi" ilkesi vardır. Yeni özelliklerin müşterilere son derece hızlı bir şekilde sunulması gerektiğine inanıyoruz, bu nedenle bunun bir sorunu çözüp çözmediğini veya daha çok bir merak konusu olup olmadığını öğrenebiliriz.

Ve böylece, temel olarak, Aralık ayı başlarında, gerçek Inbox'ta müşteri destek temsilcileriyle çalışacak bazı özellikleri daha hızlı hale getirmek için hızlı bir şekilde gönderip gönderemeyeceğimizi görmek için bir proje başlattık. Biri, metni daha hızlı oluşturmalarına yardımcı olan diğer özelliklerle birlikte özetlemeydi. Ve bu teknolojiyle başlamak için gerçekten doğru yer olduğunu hissettik çünkü üretken yapay zekanın bir dezavantajı var. Her zaman düşündüğünüz kadar doğru değildir. ChatGPT'ye bakmak, ona bir soru sormak, size bir yanıt vermek ve "Bu harika" diye düşünmek çok kolay. Ve sonra onu biraz daha ayrıntılı okursunuz ve aslında bazen bazı şeyler ters gider. Başlamak için en iyi yerin döngüdeki bir insan olduğunu hissettik. Birisi Gelen Kutusu'na sarılmış ve onları daha hızlı hale getirmek istiyoruz, ancak yine de kontrol edip onaylayabiliyorlar. Harika bir başlangıç ​​noktasıydı.

Şimdi, yorumlarda insanların "Hey, botlar ve soruları kendi kendilerine cevaplayabilen şeyler ne olacak?" Bunun geleceğini düşünüyoruz ve yakında gelebilir, ancak hala araştırıyoruz. Bizim için en büyük sorun doğruluktur. Şu anda, destek temsilcisini daha hızlı hale getiren döngüde bir insana sahip olmanın olgunlaştığını düşünüyoruz. Ve muhtemelen, yakında, bir sonraki adımda devam edecek şeyler olacak. Bu çok ilginç bir alan.

Ethan Kurzweil: Bunu gevezelik etmek gerekirse, "Bu, bir metin yazarı olarak günlerimin sayılı olmasını sağlayacak mı?" gibi ileriye dönük bazı ilginç sorular alıyoruz. Hiç sanmıyorum. Bu teknolojinin olduğu ve muhtemelen bir süre daha kalacağı yer, insan yeteneklerini ve insan zekasını artırmak, sizi bir metin yazarı olarak daha üretken kılmak, ancak sizin yerinizi alması gerekmiyor çünkü, her şeyden önce, teknoloji henüz orada değil ve ikincisi, Bu kaynaklara sahip oldukça, harika bir müşteri desteğinin veya bir işletmeyle herhangi bir iletişimin çıtası daha da yükselecek. Teknoloji, bazı metin yazarlığı ve destek yanıtı kullanım durumlarını kendi başına halledebilirken, bu teknolojilere erişimimiz oldukça neyin gerçekten iyi bir kopya ve gerçekten iyi bir destek olacağı konusunda çıta yükselecek. . İdeal durum, daha üretken olmak için bu teknolojilere erişiminiz olacak, ancak yakın zamanda sizin yerinizi almayacak.

Talia Goldberg: Evet. Wyatt'ın bunun bir yetenek çarpanı olduğunu söylemesine bayılıyorum. Kodlama için otomatik tamamlama gibi bir işleve sahip olan ve şimdiden mühendisleri önemli ölçüde daha verimli hale getiren Yardımcı Pilot örneği hakkında dahili olarak çok konuşuyoruz. Mühendislerin veya mühendisliğin yerini kesinlikle almaz, ancak onu artırabilir. Bunun çok temel bir örneği hesap makinesi olabilir. Eskiden elle matematik yapardık. Şimdi hesap makineleri kullanıyoruz, ancak matematik hala çok önemli - hepimizin onu öğrenmesi gerekiyor ve matematikçiler bu dünyada çok önemli. Tartışmaya açık bir şekilde, rolünüz daha da önemli hale gelebilir çünkü içerik oluşturma maliyeti düştükçe ve birçok farklı içerik ve bilgi sel gibi aktıkça, öne çıkabilecek ve yükselebilecek içerik ve bilgi oluşturmak daha da büyük olacaktır. önümüzdeki yıllarda prim

Intercom'un GPT ile deneyi

Krystal Hu: Intercom'un AI destekli özelliklerini başlatmasından bu yana birkaç hafta geçti. Gördüğünüz erken geri bildirim nedir? Bu teknolojiyi dahil etmenin başarısını nasıl ölçüyorsunuz?

"Çok fazla benimseme, çok fazla heyecan ve çok fazla kullanım görüyoruz"

Fergal Reid: Bu konuda çok şeffaf olacağım – bu soruya henüz tam olarak tatmin edici bir yanıtım yok. Size söyleyebileceğim şey, artık canlı yayındayız, düzenli olarak kullanan binlerce müşterimiz var – çok fazla benimseme yaşadık. Bunun insanları gerçekten daha üretken yapıp yapmadığını büyük olasılıkla deneyip ölçeceğiz, çünkü diyelim ki kendi CS ekibimiz için "Bu özellikleri kullanırsanız daha hızlı mısınız?" ve bunun için bir çeşit kontrollü deney oluştur. Her zaman bir noktada bununla ilgili bir tür gerçek veri almayı denemek isteriz, ancak henüz o noktada değiliz. Muhtemelen bir veya iki ay içinde, en azından dahili olarak, bununla ilgili bazı rakamlara veya daha fazla bir anlayışa sahip olacağız.

Şu anda size söyleyebileceğim şey, çok fazla benimseme, çok fazla heyecan ve çok fazla kullanım görüyoruz. Müşterilerin bize önemli ölçüde zaman kazandırdığını söylediği özetleme gibi bazı özellikler kesinlikle vardır. Müşterilerimizin bize "Hey, bazı konuşmalarda devir teslim özetini yazmak, son kullanıcının sorununu çözmek kadar uzun sürebilir" gibi şeyler söylediğini gördük. Ve böylece, bu konuda kesinlikle iyi hissediyoruz.

Diğer bazı özelliklerimizde, biraz GitHub Copilot gibi bir steno yazarsınız. Copilot'tan ilham aldık ve Copilot'ta bir programcıysanız, bir yorum veya steno yazabilirsiniz ve ardından kodu dolduracaktır. Özelliklerimizden biri, bir steno yazdığınız "genişlet" özelliğidir ve bunu daha uzun bir destek mesajına dönüştürür. Bazen bu işe yarar ve insanlara zaman kazandırır, ancak bununla ilgili henüz veriye sahip değiliz. Şu anda yaşadığımız şey, bunun sadece 1. Nesil versiyonu. Ve 2. Nesil versiyonun prototiplerine sahibiz. Şu anda stenoyu yazıyorsunuz ve büyük dil modeli bunu genişletiyor. Bunun yerine yapmaya çalıştığımız şey, "Hey, böyle bir soruyu en son ne zaman yanıtladığınızı hatırlayalım. Bununla ilgili makroları çekelim.” Ve oldukça iyi çalışan bazı dahili prototiplerimiz var. Hâlâ yenilik yapıyoruz ve iğneyi gerçekten hareket ettirecek şeyler yapıyoruz, ancak henüz ölçümlerimiz yok. Yakında.

"OpenAI ile günlük harcamalarımızı gergin bir şekilde takip ettiğimiz Tableau'da bir grafiğim var"

Krystal Hu: Bunu takip etmek için, bunun maliyetini nasıl ölçersiniz? Anladığım kadarıyla, muhtemelen OpenAI'ye sorular gönderiyorsunuz ve sanırım, bin karakter başına iki sent veya buna benzer bir ücret alıyorlar. Ve sanırım, evlat edinilmeniz arttıkça, bu fatura da birikiyor. Bu teknolojiyi dahil etme konusunda paylaşacağınız herhangi bir öğreniminiz veya gözleminiz var mı?

Fergal Reid: Tableau'da endişeyle takip ettiğimiz OpenAI ile günlük harcamalarımızı gösteren bir grafiğim var. Bu kesinlikle bir düşünce. Özetleme özelliğinden bahsetmiştim ve soruyu teslim etmeden önce özeti sormanız gereken çok insani bir döngü içinde oluşturduk. Müşterilerimizin bize söylediği bir şey de, "Hey, neden bu özeti istemem gerekiyor? Lütfen kenar çubuğunda her zaman bir özet bulundurun, böylece asla sormak zorunda kalmam. Ve bu gerçekten pahalıya mal olurdu, çünkü sohbette her yeni bir şey söylediğinde ve özet değiştiğinde iki sent ödemek zorunda kalsaydık, bu çok pahalı olurdu. Daha geleneksel makine öğrenimi modellerinde yapmadığımız bir şekilde maliyeti kesinlikle dikkate almalıyız.

Bununla birlikte, OpenAI az önce ChatGPT API'sini duyurdu ve bence pek çok insanı şaşırttı çünkü bu serideki önceki benzer modellerden 10 kat daha ucuzdu. Maliyetin oldukça hızlı düşmesi ve bu özelliklerin geniş çapta benimsenmesi mümkündür. Bu alanda inşa eden diğer girişimler veya şirketler ne olacak? Intercom'da vereceğimiz tavsiye, pazara hızlı bir şekilde girmeye çalışmaktır çünkü burada müşterileriniz için oluşturabileceğiniz ve kilidini açabileceğiniz gerçek değer vardır. Ve OpenAI gibi satıcılar onları nasıl daha verimli hale getireceklerini buldukça modeller ucuzlayacağı için veya siz onları kullanmanın daha verimli yollarını bulacağınız için maliyet muhtemelen düşecektir. "Hey, konuşmanın ilk kısmı için daha ucuz bir üretken model kullanabilirim ve sonra, daha fazla doğruluk gerektiren bu çok daha zor görevim olduğunda, daha pahalı olanı kullanırım" demenin yollarını bulacaksınız. ” Ethan ve Talia muhtemelen bu konuda benden çok daha geniş bir görüşe sahipler ve onların düşüncelerini duymayı çok isterim.

"Geliştiricilerin yeni bir teknolojiye sahip olana ve her API çağrısı yaptıklarında iki kuruş ödemeyecekleri bir yere sahip olana kadar, onunla ne yapacaklarından asla emin olamazsınız."

Ethan Kurzweil: Bu, bu son teknolojilerde bazen gördüğünüz şeylere iyi bir örnek. Başlangıçta, yüksek değerli kullanım durumları onları alır ve siz bu prensibin gerçekleştirilmesini açıklıyorsunuz. Intercom'da, bugün istendiğinde özet özelliği budur. Ancak zamanla, teknoloji çok daha yaygın ve daha ucuz olacak. Ve işte o zaman, bunu yapmanın marjinal maliyetinin bugün engelleyici olduğu daha fazla kullanım durumuna dönüşebilir ve bu, geliştiricilerin, gerçekten tahmin etmediğimiz bu yapay zeka türünde büyük dil modellerinin diğer uygulamalarını keşfetmelerine olanak tanır.

Bessemer'de, Talia ve ben teknolojinin nereye gideceğine dair yol haritaları bulmaya çalışıyoruz, ancak geliştirici odaklı bir yatırımcı olarak, her zaman düşündüğüm en önemli ilkellerden biri, geliştiricilerin ne yapacağından asla emin olamamanızdır. yeni bir teknolojiye, yeni bir platforma, bir şeye yeni bir erişime sahip olana kadar - ve her API çağrısı yaptıklarında iki kuruş ödemedikleri bir yere sahip olana - ve ilk başta saçma gelen şeyleri yapıp yapabilene kadar.

Teknolojinin bir ton denemenin olduğu noktaya gelmesi beni heyecanlandırıyor. Eminim Intercom'un ürün yol haritasında, bugün değil, bundan bir yıl sonra, tahmin etmediğimiz ancak müşteriler için gerçekten yüksek değeri olan bazı şeyler olacak. Üretken metni kullanmanın belirli bir yolunu buldukları için ortaya çıkan bazı yeni girişimler olacak ve bu birileri için gerçekten harika bir kullanıcı deneyimi yarattı.

Talia Goldberg: Destekle ilgili deneyimleri artırmak için insan benzeri potansiyelin bazılarını vurgulayabileceğini düşündüğüm eğlenceli bir örnek var. Diyelim ki, güçlü İrlanda aksanına sahip Intercom ekibinden bazılarıyla konuşuyorsam ve muhtemelen çılgın bir Batı aksanım olduğunu düşünüyorlarsa, bazen çok heyecanlı olduğumuzda birbirimizi anlamak bizim için zor oluyor ve gerçekten hızlı konuşmak Herkes İngilizce konuşsa da kulağa farklı bir dil gibi geliyor. AI, gerçek zamanlı olarak, her iki şekilde de daha anlaşılır hale getirmek için bir kişinin aksanını biraz değiştirebilir. Yani, İrlanda aksanım veya İngiliz aksanım varsa, bunu Kaliforniya aksanına çevirecek ve bu, iletişim engellerini azaltarak bazı yönlerden deneyimi gerçekten iyileştirebilir.

Ethan Kurzweil: Bu iyi bir örnek, çünkü teknoloji doğrudan iletişimin ortasına giriyor ama onu daha insani kılıyor, bu kulağa tezat gibi geliyor, ancak iyi kullanılırsa, mesajlaşma veya iletişim bağlamında kendinizi daha bağlı hissetmenizi sağlayabilir.

Talia Goldberg: Bu, internetin vaadidir - hepimizi bir araya getirmek ve engelleri yıkmak. Bunu güçlendirme potansiyeline gerçekten büyük bir inancım var.

güven katsayısı

Krystal Hu: Bence pek çok insan, bilgi akışı açısından her şeyin doğru olduğundan ve doğru olacağından nasıl emin olacağınızla ilgili sorular soruyor. Farklı kullanım durumlarında risk farklıdır, ancak genel olarak müşterilerinize yanlış bilgi vermek istemezsiniz. Bunu nasıl sağlıyorsunuz?

"Bir insan olarak bu şeyleri asla göremeyeceğiniz için değil, çünkü bu imkansız olurdu - uygun şekilde filtreleyebiliyorsunuz. Büyük dil modelleri hakkında böyle düşünüyorum”

Talia Goldberg: Belki sadece bir yorum ve sonra sanırım Fergal'ın Intercom hakkında daha spesifik yanıt vermesine izin vereceğim. Modeller muazzam miktarda veri üzerinde eğitilmiştir - milyarlarca ve milyarlarca veri ve bilgi noktası. Ve böylece, verileri ne kadar kandırmaya çalışırsanız çalışın veya yanlış veriler koyarsanız koyun, yine de genel verilerin çok küçük, çok küçük bir kısmıdır. Bu modellerin nasıl oluşturulduğunu düşünürken akılda tutulması gereken bir şey de budur.

Diğeri ise veri girişleridir. Yanlış olan verilerle eğitilip eğitilmediği konusunda endişeler olduğunu biliyorum ve beni yanlış anlamayın, halüsinasyon ve diğer alanlarda kesinlikle zorluklar var, bu yüzden iyileştirilecek çok şey var. Ancak hayatınızda, yanlış, önyargılı ve hatta yanlış bilgi olabilecek şeyleri görmediğiniz bir şey yok. Bununla karşılaşıyorsunuz, ancak muhakemenizi ve aklınızı kullanıyorsunuz ve başka pek çok iyi veri var. Ve bu nedenle, bir insan olarak, bu şeyleri asla göremeyeceğiniz için değil, çünkü bu imkansız olurdu - uygun şekilde filtreleyebiliyorsunuz. Büyük dil modelleri hakkında böyle düşünüyorum. Eğitim setinde olmasını istemediğiniz veri ve bilgilerin olduğu bazı durumlar olacaktır, ancak dil modellerinin bunları filtreleme ve doğru cevaba ulaşma yeteneği zamanla daha iyi olacaktır.

"Parametrelerden biri şu olabilir: 'Bu cevaba ne kadar güveniyorsunuz?' Yeterince iyi değilse, verme”

Ethan Kurzweil: Hem veri gizliliği hem de doğruluğu hakkında bazı ilginç sorular var. Gizlilik kısmına geçmeden önce veri doğruluğu sorusuyla ilgili akılda tutulması gereken bir diğer şey, gelecekte ve bazı büyük dil modellerinde gerçekten bir doğruluk katsayısı ayarlayabileceğinizdir. Bu, bir yapay zekanın Jeopardy'yi kazanmak için programlandığı zamana benziyor - bir sorunun yanıtını %90 veya %60 güvenle bildiği bir güven aralığına sahipti. Ve bu bağlamda, yanlış bir cevapla bazı puanları kaybettiğinizde, aralığı %40 gibi oldukça düşük bir değere ayarlarlar. %40 veya daha fazla eminsen, ne oluyor, git ve soruyu cevaplamaya çalış.

İnsan düzeyinde doğruluk istediğiniz bazı bağlamlar olabilir, bunu oraya ayarlarsınız ve çoğu zaman yapay zeka yüzde 99'a ulaşamadığında, bir insana veya onun gibi bir şeye tekme atar. Eğitimli yapay zeka destekli bir tahmine daha fazla tolerans gösterdiğiniz askeriyede, hatta sıkı denetime tabi endüstrilerde bile bazı bağlamlar olabilir. Ve bu, parametrelerden biri olabilir: "Bu cevaba ne kadar güveniyorsunuz?" Yeterince iyi değilse, vermeyin.

Fergal Reid: Sadece buna dahil olmak için Ethan, bu kesinlikle Intercom'da dahili olarak sahip olduğumuz güçlü bir ürün inancıdır, yani burada çeşitli toleranslar olması muhtemeldir. “Bana bir öneride bulunun; Önerinin ara sıra yanlış olması sorun değil.” Ve toleransı çok düşük olan başka müşteriler de olacak. Bu konuda bir dereceye kadar yapılandırmaya ihtiyacımız olacağını düşünüyoruz.

"Çok daha iyi tahminler yapabilen ve işleri çok daha hızlı yapabilen bu yeni teknolojiye sahibiz. Bunu nasıl alıp yeterince güvenilir hale getirebiliriz veya en azından müşterilerin seçim yapmasına izin verebiliriz?”

Gelecekte bakacağımız bazı şeylerle yabani otların arasına dalmak için, diyelim ki bir makaleyi tüketmeye ve bu içerikle ilgili bir soruyu yanıtlamaya çalışan bir şeyiniz var. Bir örnek, "Yalnızca bundan tam bir alıntıyla yanıt vermenize izin verilir." Ve bu alıntıyı bağlamına yerleştirebilir, ancak alıntının orada olması gerekir. Bu, sorgunuzu anlamada ve bilgileri almada daha iyi bir iş çıkarmak için bu yeni büyük dil modellerini kullanmanın muhafazakar bir yoludur, ancak gerçekte söyleyebileceklerini kısıtlar. Başka bir örnek, üretken bir model alıp, kaputun altında üretken olmasına izin vermenizdir, ancak bir son kullanıcıyla yalnızca önceden tanımlanmış bir dizi eylem veya söyleyebileceği şeyler aracılığıyla etkileşim kurabilir.

Güçlü motoru alıp daha güvenli, daha güvenilir ve kısıtlı hale getirmeye çalışmak için pek çok teknik var. Ve bence bu teknikle çalışan birçok insan göreceksiniz. Çok daha iyi tahminler yapabilen ve işleri çok daha hızlı yapabilen bu yeni teknolojiye sahibiz. Bunu nasıl alıp yeterince güvenilir hale getirebiliriz veya en azından müşterilerin seçim yapmasına izin verebiliriz? Sanırım önümüzdeki birkaç ay içinde bu alanda çok fazla hareket göreceksiniz.

Sektörler genelinde toplu kişiselleştirme

Krystal Hu: Bu notta, Ethan, Talia, müşteri hizmetlerinin yanı sıra, bu alanda gördüğünüz ve sizi özellikle heyecanlandıran başka uygulamalar var mı?

Ethan Kurzweil: Önce ben gidebilirim. Bazı tüketici uygulamalarına baktığımızda, oyun oynamak bizi heyecanlandırıyor. Çoğu zaman oyunları neyin eğlenceli kıldığını düşünürseniz, bu yeni içeriğin yenileme hızıdır ve bu da sürekli olarak yaratıcı fikirler geliştirmeyi gerektirir. İnsanların "Ya her oyuncu için her deneyim yeni olabilirse?" diye düşündüğünü görmeye başlıyoruz. You couldn't have a personal copywriter writing that much content for each person, but an AI could do it. And it could get down to a level where each decision you make generates a new experience based on whatever temporal inputs you want to give the system.

“We went from handcrafted goods to mass-produced goods to mass personalization in a way we've probably never seen before”

Media applications as well. Earlier in my career, I used to work at the Wall Street Journal , and the parent company of the Wall Street Journal was Dow Jones. They had a sister news department called Dow Jones Newswires , which was about getting financial news mainly to traders and folks that needed to act very quickly on that information as fast as possible through terminals and things like that. I think about what an AI could do to augment news or get news to the end user more quickly. Again, I don't think it's replacing journalists at all, I think it's augmenting the amount of information and the targeting we can provide to folks much more quickly.

I think about entertainment use cases. This promise of personalized television and premium content services has always been out there, but when you get to the long tail of internet content and user-generated content, it tends to be pretty low-quality. Could you have a high-quality, personalized content delivery service? I think AI could impact that equation in the future.

Talia Goldberg: I love the concept of personalization and everyone having their own experience. We went from handcrafted goods to mass-produced goods to mass personalization in a way we've probably never seen before. This is a totally new experience for everyone, which is super cool. I'll share one of the areas that I think is going to be wildly impactful and really promising, which is in life sciences and biotech.

“The AI is seeing something that we, as humans, have never before been able to see”

Applying AI to drug discovery and development using huge amounts of data to look at molecules and protein structures and genomic data can be really transformative. I read this study that I think was in Nature a month ago, and it described how some researchers gave an AI a bunch of images of a human retina, and the AI, with 90% accuracy, said which retina belonged to either a male or a female. That seems very basic – who cares? But what's really crazy about that is that no researcher, scientist, or AI expert has ever been able to find any sign of a retina correlating to gender of any form. The AI is seeing something that we, as humans, have never before been able to see.

You think about that, and then you apply that to cancer and different cells and otherwise, and the potential is just massive and really exciting. And we're already seeing a lot of applications. AI's going to transform a whole bunch of things – health, software, business applications, logistics, consumer… We could make a long list, but there are a ton of reasons to be super optimistic.

Mix and match

Krystal Hu: When I talk to startups, when they're incorporating this kind of technology into their offerings, one choice they have to make is which model they work with. Do they only work with one type of model, or do they diversify their vendors to work with other companies besides OpenAI? I'm sure, Fergal, you've spent some time thinking about that. What was the experience like at Intercom?

Fergal Reid: With new technology, being right in the forefront, our head tends to go first to customer value. We're happy to use the most expensive or newest model to try and figure out, “Okay, can we really build a transformative experience for a customer with this that is a core part of the workflow and makes something valuable for them?” And once we do that, we're like, “Okay, now, how can we make it cost-effective?” And we're probably going to end up with a large mix of different models from, say, OpenAI, and we've also looked at other vendors like Anthropic, which are doing some really interesting work in this space too.

“It's highly likely that everyone's going to end up running a bespoke mix of many different models. It's going to get complex pretty fast”

It's an exploding space with many different people training large language models, and I think you'll have different large language models that are better and worse and have different trade-offs in terms of cost and latency and performance. Performance won't be one-size-fits-all. Some models are better at dealing with hallucinations, some are better at generating creative content, and I think we're already seeing that.

Our focus is to get whatever models we can, try them out, think if we can use these to build transformative value, get it live with our customers, and then figure out how to optimize that. Once we know it's delivering value, let's optimize it in terms of price and cost and work. It's highly likely that everyone's going to end up running a bespoke mix of many different models. You could have three different models in one customer interaction. So yeah, it's going to get complex pretty fast.

“There'll probably be a new set of metrics that everyone coalesces around that measure the effectiveness of your AI and your particular business problem”

Ethan Kurzweil: I think that's an interesting point that actually ties the question from before: how do you measure the success of this? Because I think lots of companies will try a model or many, and the question will be, “All right, which is best?” And that's such an oversimplification because you have to figure out what you are trying to achieve. Are you trying to achieve engagement with users? Are you trying to achieve a quick resolution?

I think there'll probably be a sort of metricization of this where people come to a standard, like the way Google Search created a new industry, AdWords, and the way we measure click-through rates and conversion rates and things like that. There'll probably be a new set of metrics that everyone coalesces around that measure the effectiveness of your AI and your particular business problem.

Fergal Reid: Yeah, even before these more recent language models, we've had bots that process natural language using pretty big neural networks, although not as big. And whenever we would do something like upgrade our bots, we would conduct a large-scale A/B test framed in terms of end-user metrics such as self-serve rate. Then, we would find edge cases for particular customers or domains where it performed less well, really dig into those, and make sure nothing was broken. I think there's probably a well-understood playbook, like Ethan's referring to, of metrics for given domains. A lot of the same things will apply to this new type of technology.

Soru-Cevap

Krystal Hu: I'd love to get to the Q&A. I think we were able to address some of the questions during our discussions, but there are a bunch about the potential roadmaps from, I assume, Intercom's customers or companies working with Intercom who want to know what could be the next AI-aided feature that may come out, both in the short-term and long-term, and also how that will affect the pricing strategy.

Fergal Reid: Cool. Do you want to call out one particular question?

Krystal Hu: I think there was a question about your roadmap for the features for the next six months versus 12 to 18 months, and then the other person asked about the pricing strategy.

Fergal Reid: We have some things coming up that unfortunately, I can't talk about at the moment. I would say that six months is a really long time in this space. I expect you'll see a lot of movement in this space over the next two or three months. We will continue to sweat and invest in these features in our Inbox to make support reps more efficient. I've already talked about how we've got a Generation 1 version of features here at the moment, with summarization and expansion features to help edit a text, and we're definitely working on Generation 2 versions of those features.

We've also met two other exciting features in this space that we're really excited about, but unfortunately, I can't share any details at the moment – it's just a little bit too early to announce and launch those things. I can promise you're going to see a lot of action and excitement from us, and I'm sure from other companies in this space as well, over the next six months.

“Right now, there's a bit of a context limit for each interaction with an AI in a large language model, but there's a lot of exciting research pushing the boundaries”

Krystal Hu: Talia and Ethan, do you have any expectations or hopes on how fast the space could move?

Talia Goldberg: Well, it's moving a lot faster than we even anticipated. The space is moving really quickly in part because there are a whole bunch of technological advances happening at the same time as the hardware that these models are trained on gets better and improves at a Moore's Law rate, and there are new architectures and ways of scaling on that hardware. We're getting better and better at creating new experiences and models.

I don't have an exact prediction of how quickly we'll see different things, but one of the biggest areas that we're watching closely and expect to see a lot of advances in over the next six to 12 months is around personalization and being able to create far more personalized experiences. Right now, there's a bit of a context limit for each interaction with an AI in a large language model, but there's a lot of exciting research pushing the boundaries of those context windows, coming up with new frameworks to create far more personalized experiences and remember each person, each user, each customer, and tons of data points about that person to create a better experience.

“I would encourage everyone that's building new products to ride the ups and the downs”

Ethan Kurzweil: I completely agree with Fergal and Talia. We're going to see predictable and unpredictable applications of this over the next six months. There'll be some unsuccessful ones too, and then the narrative will quickly shift to, “Oh, that didn't do everything we thought it was going to do as quickly as we thought.” Right now, we're into the peak of momentum and euphoria and, dare I say, a little hype in the space. But over time, it'll become as big a deal as we thought.

I would encourage everyone that's building new products to ride the ups and the downs. Don't ride the up as high as it may be feeling like you should right now, but when the narrative changes a little bit, because it will – all new technologies have that “Oh, that wasn't as impactful as quickly as we thought” moment – I would encourage everyone to keep building through that as well.

Krystal Hu: Yeah, I'll definitely take that from you as a crypto investor.

Ethan Kurzweil: It's the same thing. Right now, there's clearly a trough of disillusionment for crypto. And good builders are figuring out, “Okay, what of this technology is applicable? What makes sense?” And we'll see those things come to market over the next couple of years.

Krystal Hu: One common question I saw in the Q&A is: how will this impact human jobs like human agent jobs? I'm curious to hear your thoughts on this specific case.

Ethan Kurzweil: Ever since the advent of the computer, there's been this prediction that it would be a massive replacement for human work at all levels. It does change the nature of work, and this will certainly change in some ways, but it's not going to be a wholesale replacement for humans in any broad way.

“Guess what? Every year, we need way more engineers. It's like Jevon's Paradox. The more that AI is available and the cost goes down, the more demand there is”

Just as Talia alluded to the example of Copilot and people, I've read many articles saying this was going to put all developers out of business over the next two to three years, and that's complete BS. Everyone knows that's not true. But it may allow for more productivity and for the cycle time on software to speed up. It may allow for different skills to be more important. I think it just makes us more productive. It's not that it won't have an impact and won't shift the nature of work in some ways. I don't mean to minimize that because that's very real. But looking at the whole, you'll see we come out ahead.

Talia Goldberg: At least until we reach the singularity, I'm pretty convinced of the need for more and more engineers. You could have gone back 10 years and been like, “Ah, there are all these cool developer tools now that are coming out and making it way easier to integrate things,” or, “Oh gosh, there are these self-serve products like Zapier that make it easy for non-technical people to connect products and integrate things.” And guess what? Every year, we need way more engineers. There's a shortage. It's like Jevon's Paradox. The more that AI is available and the cost goes down, the more demand there is. And I think, in a lot of areas, that paradigm will hold true. But as Ethan said, the exact skills and the way it looks may shift.

Krystal Hu: Yeah, that makes a lot of sense. I saw some interesting observations and questions about whether you should tell people that they are talking to an AI versus a real person. It's an interesting question because it presumes we wouldn't be able to tell.

Ethan Kurzweil: It's a good existential question. If you're talking to a person assisted by an AI, who are you talking to, and what disclosure do you have to make in that case? I don't have any answers to these questions, but they're great ones for us to debate.

Talia Goldberg: I find that AI can sometimes generate responses that are so detailed and so good that there's just no way that a human did it anyway. It's like the reverse of the Turing test.

Krystal Hu: Güvenlik işleviyle ilgili başka bir soru. Sanırım buna daha önce de değindik, ancak belirli bir soru var: "Model sağlayıcı ile güvenlik işlevselliğinin dikey entegrasyonu ne kadar önemli? Örneğin, Jigsaw'un Perspective API'si ile karıştırmak ve eşleştirmek yerine ChatGPT model çıktısı ile OpenAI'nin moderasyon API'sini kullanmak ne kadar önemli?” Fergal, bu konuda paylaşmak istediğin bazı düşüncelerin veya deneyimlerin olabilir.

Fergal Reid: Evet, Jigsaw'un Perspective API'sine aşina değilim, bu yüzden tam olarak bilmiyorum. OpenAI ve Tropic'teki tüm insanlar ve büyük dil modellerini eğiten başka kimseler, onları kullanılabilir, güvenli ve uyumlu hale getirmeye çok önem veriyorlar ve halüsinasyonlardan kaçınmaya çok önem veriyorlar. Ve Intercom gibi şirketlerin bunları güvenilir yollarla dağıtmasını kolaylaştırmak için bu alanlarda çalışmaya devam edecekler. Bunu dikey olarak entegre etmemiz gerektiğine ikna olmadım. Ürünleştirmenin üstesinden gelmemiz ve onları yeterince güvenilir hale getirmemiz için Intercom'un kendi devasa büyük dil modellerini eğitme işinde olması gerektiğini bilmiyorum. Zaten bu alanda çok fazla hareket göreceğimizi düşünüyorum.

Bu tür üretken yapay zeka, kullanıcıya modeli nasıl dağıtacağını denemesi ve çözmesi için çok fazla özgürlük verir. Gelişmekte olan hızlı mühendislik alanı var ve ekibim bunun çoğunu yapıyor, bilgi istemlerini düzenliyorlar ve "Tamam, modele ne istediğimi doğru şekilde nasıl sorabilirim?" sorusunu çözmeye çalışıyorlar. bana aradığım sonucu ver?” Bu, en azından bir süre daha iyi olacak, daha güçlü olacak ve modelleri kontrol etmek daha kolay hale gelecek.

Intercom'un pozisyonundaki şirketlerin çok fazla değer ürettiğini ve birçok uygulama ve tasarım anladığını görebileceğimizi düşünüyorum. Ürünlerin bu yeni teknoloji etrafında nasıl tasarlanacağını hâlâ öğreniyoruz. Bizim konumumuzdaki insanların bunu kullanması için pek çok özgürlük derecesi var.

“Her zaman bu gerilim var: genel şeye mi biniyorsunuz? Genel model, ince ayara kıyasla ne kadar daha iyi hale geliyor?”

Krystal Hu: Intercom'un kendi modelini oluşturmasıyla ilgili sorular da vardı. Daha önce de belirttiğiniz gibi, bir API veya buna benzer bir şey yaparken kullanım durumlarınız için hangi modelin daha iyi çalıştığının bir karışımını yapma fırsatları olabilir mi?

Fergal Reid: Evet, şu anda bu modellerin üzerinde eğitildiği ölçekte, Intercom büyüklüğündeki her şirketin kendi modellerini eğitmesi ekonomik olarak mantıklı görünmüyor. Ama yine, burada bir spektrum var. Onlara göre tasarım yapma ve modelden ne isteyeceğimizi bilme konusunda uzmanlık geliştireceğiz. Ve muhtemelen Intercom ince ayar modelleri gibi şirketler etrafında ortaya çıkan işlevsellik göreceğiz. Bu yeni modellerin çoğu, insan geri bildirimi ile pekiştirmeli öğrenme ile eğitilmiştir. Bunu yapmanın maliyeti muhtemelen zamanla düşecek ve bunları kendi özel kullanım durumlarımıza göre daha fazla özelleştirebileceğiz.

Her zaman bu gerilim vardır: genel şeye sırtını mı dayarsın? Genel model, ince ayar yapmaya ve belirli şeyler yapmaya kıyasla ne kadar iyi? Bu alanın nasıl sonuçlanacağını görmemiz gerekecek, ancak şirketlerin bu modelleri alıp kendi alanlarına göre özelleştirip ürünleştirme konusunda pek çok serbestlik derecesi olacağını düşünüyorum. Bu teknolojinin ürünleştirilmesinin ilk günlerindeyiz. Çok şey değişecek ve öncelik vermek çok daha kolay olacak.

Krystal Hu: Harika sohbetimizin neredeyse sonuna yaklaşıyoruz, ancak iki soru daha alabiliriz. Biri, kurumsal şirketlerin ChatGPT'yi nasıl benimsediği ve ChatGPT'den değer elde ettiğiyle ilgilidir. Bunu tekliflerine entegre etmeye başlayan şirketler gördünüz ve diğer yandan, şirketlerin, özellikle yüksek düzeyde regüle edilmiş bankaların bilgi hizmeti ve gizlilik konularını merak ettiğini ve çalışanlarının şirket dizüstü bilgisayarlarında oynamasını yasakladığını düşünüyorum. Talia ve Ethan'ın bu soru hakkındaki düşüncelerini merak ediyorum.

Talia Goldberg: Portföyümüzde, gerçekten ön planda olan Intercom gibi kategorilerde bile yer almayan birçok yazılım şirketi, “Hey, bu benim işim için ne kadar önemli ve benim için yollar neler? bu modellerden veya ChatGPT API'lerinden bazılarını ürünüme entegre edebilir miyim? Yüksek oranda tekrarlanan görevler, bir yapay zekanın otomatikleştirmeye veya kolaylaştırmaya yardımcı olması için gerçekten harika olabilir. Şirketlerimizden biri, müşterilerinden çok sayıda muhasebe bilgisi alıyor ve bir hata veya yanlış bir şey varsa mutabakata varmaları ve işaretlemeleri gerekiyor. Ve geçmişte bu kural tabanlı sistemlere sahiplerdi, ancak yapay zeka uygulayabilir ve çok daha iyi doğruluk elde edebilirsiniz. Bir başka ilginç örnek de özetleme parçasıyla ilgili. Bir müşteri bir çağrı merkezi temsilcisiyle veya satış temsilcisiyle konuşursa, bu konuşmayı özetleyebilir ve yalnızca o kişi için özel pazarlama teminatı oluşturabilirsiniz.

Krystal Hu: Talia ve Ethan'a son bir soru. İnsanlar tohum öncesi girişimlere veya sanırım genel olarak girişimlere yatırım yaparken ne aradığınızı soruyorlardı.

"'Bu, belirli bir rol veya insan türü için gerçekten iğneyi hareket ettiriyor mu?' şeklindeki anahtar soruya ayırmaya çalışıyoruz."

Ethan Kurzweil: Bu harika bir soru. Bunun çok farklı cevapları var. Ön tohum, bu sorumluluk reddini ortadan kaldırmak için genellikle yatırım yaptığımızdan biraz daha erkendir - genellikle daha sonraki bir tohuma veya A veya B serisine yatırım yapıyoruz. Ancak felsefemiz, bulabildiğimiz her yerde hiper büyüme modelleri aramaktır. onlara. Ve genellikle, bunu kırmanın yolu, yol haritası oluşturarak önceden teşhis koymaya çalışmaktır ve Talia, AI ve onun uygulamaları hakkındaki düşüncelerimizin çoğunu çeşitli farklı şeylere iten kişi oldu ve bu yol haritalarını ortaya çıkardık. oldukça ilginç olduğunu düşündüğümüz farklı tematik alanlar. Bulut bilgi işlem veya sağlık hizmetlerinin tüketiciye uyarlanması gibi gerçekten geniş veya AI'nın müşteri hizmetleri üzerindeki etkisi gibi dar olabilirler.

İnsanları bakmaya teşvik ediyorum, çünkü inşa ettiğiniz şeyin bir şeyle uyumlu olup olmadığını görmek için aktif tezimizi blogumuzda ve sosyal medyada çokça yayınlıyoruz. Ve sonra, genel olarak konuşursak, "Bunun çalışma veya eğlence yapma şeklimizi değiştirecek veya bazı iş süreçlerinde veya tüketici ihtiyaçlarında bir paradigma değişikliği olabilecek bir etkisi var mı?" Onu parçaladığımız şey bu. Ne zaman geniş tabanlı bir davranış değişikliğine sahip olursanız olun, bunun hiper-büyüyen şirketlere ve startup'lar için çalışma veya oyun oynama ya da daha önce yapılan her şeyi bozma fırsatlarına yol açtığını fark ettik. Ve bu yüzden, "bu, belirli bir rol veya insan türü için gerçekten iğneyi hareket ettiriyor mu?"

Krystal Hu: Konuşmamızın sonu bu. Intercom'un yeni özelliklerini deneme şansı bulamayanlar için, özetleme ve diğer birkaç özellikle kendiniz oynamanızı tavsiye ederim. Ve girişim alanıyla ilgileniyorsanız, kesinlikle Bessemer'in web sitesine bir göz atın. Herkesin dediği gibi, bundan altı ay sonra geriye bakacağız ve bazı tahminler gerçekleşecek ve belki bazıları tamamen farklı olacak. Umarım geri dönüp daha fazla soru çözmek için başka zamanımız olur. Bugün ayırdığınız zaman için tekrar teşekkürler Talia, Ethan ve Fergal.

Ethan Kurzweil: Bizi ağırladığınız için teşekkürler.

Talia Goldberg: Güle güle.

Fergal Reid: Herkese çok teşekkür ederim. Güle güle.