Makine Öğreniminin yeni şafağı

Daha önce burada bulunduk. Medyadaki vızıltı, abartılı iddialar ve sahadaki çalışma arasında, Makine Öğrenimi ile uğraşırken bazen fanteziyi gerçeklikten ayırt etmek zordur. Sinir ağları olgunlaştıkça ve diğerlerinden sıyrıldıkça, teknoloji yutturmaca kadar yaşayabilir mi?

Geçtiğimiz beş yıl içinde, sinir ağı teknolojisinin gerçekten kendi başına geliştiğini gördük. GPT-3, isteğe bağlı olarak insan benzeri metinler oluşturabilir ve metin istemlerinden görüntüler oluşturan bir makine öğrenimi modeli olan DALL-E, sosyal medyada popülaritesini artırarak, "Darth Vader ne olurdu?" gibi dünyanın en acil sorularını yanıtladı. buz balıkçılığına benziyor mu?” veya "Walter White Animal Crossing'de olsaydı nasıl görünürdü?"

Bu dalgalanmanın ne olduğunu bilmek istedik, bu yüzden Makine Öğrenimi Direktörümüz Fergal Reid'e bugünkü bölüm için beynini seçip seçemeyeceğimizi sorduk. Çalışma hala mümkün olanla mümkün olan arasında bir dengeleyici eylem olmasına rağmen, görünen o ki, işler daha yeni ölçeklenmeye başlıyor. Teknoloji ortamı değişiyor, iş uygulamaları (potansiyel olarak) oyunun kurallarını değiştiriyor ve spoiler uyarısı veren Fergal, bu yutturmacaya çok inanıyor.

Intercom on Product'ın bugünkü bölümünde, Baş Ürün Sorumlumuz Paul Adams ve ben, sinir ağlarını çevreleyen son vızıltı, makine öğreniminin işletmeleri nasıl güçlendirdiği ve dünyadaki teknolojiden neler bekleyebileceğimiz hakkında konuşmak için Fergal Reid ile oturduk. önümüzdeki birkaç yıl.

İşte sohbetten en sevdiğimiz paketlerden bazıları:

• Sinir ağları son beş yılda önemli ilerleme kaydetti ve artık metin, görüntü veya ses gibi yapılandırılmamış verilerle büyük ölçekte başa çıkmanın en iyi yolu.
• Müşteri deneyiminde, sinir ağları, müşteriyle mümkün olan en iyi etkileşimi sağlayan eylemleri seçmek için muhtemelen daha geleneksel makine öğrenimi yöntemleriyle kullanılacaktır.
• ML ürünleri oluşturmak denge gerektirir – çözüme ulaşılamıyorsa sorunla başlamak anlamsızdır, ancak gerçek müşteri ihtiyaçlarını karşılayamıyorsa teknolojiyle başlamamalısınız.
• AI geçmişte oldukça fazla abartıldı. Daha gerçekçi taleplerin daha az hesabı kapatması muhtemel olsa da, müşteriyi elde tutmada karşılığını verir.
• Makine öğrenimi ekipleri, hiçbir zaman gönderilmeyen araştırmalara adil bir kaynak payı yatırma eğilimindedir. Müşteri deneyimi üzerinde gerçek bir etkisi olan projelerle mümkün olduğunca eşleştirin.
• Makine öğrenimine yatırım yapmak istiyorsanız, ilk günden itibaren ürün ekibiyle çalışmaya başlayabilmeleri için hem teknik hem de operasyonel açıdan deneyimli birini işe alın.

Tartışmamızdan hoşlanıyorsanız, podcast'imizin diğer bölümlerine göz atın. iTunes, Spotify, YouTube'da takip edebilir veya seçtiğiniz oynatıcıdaki RSS beslemesini alabilirsiniz. Aşağıda bölümün hafifçe düzenlenmiş bir transkripti var.

Heyecan geri geliyor

Des Traynor: Intercom On Product, bölüm 18'e hoş geldiniz. Bugün tartışacağımız ilginç bir konu var. Her şey yapay zeka ve makine öğrenimi ile ilgili. Her zamanki gibi Intercom'un Baş Ürün Sorumlusu Bay Paul Adams bana katıldı. Paul, nasılsın?

Paul Adams: İyiyim Des. Teşekkürler.

Des Traynor: Ve bugün özel bir konuğumuz var, Makine Öğrenimi Direktörümüz Bay Fergal Reid. Fergal, nasıl gidiyor?

Fergal Reid: Bu iyi, Des. Bugün podcast'te olmaktan gerçekten çok mutluyum. İçine girmek için sabırsızlanıyorum.

Des Traynor: Mükemmel. Bence sen bizim ilk veya ikinci konuğumuzsun, bu yüzden çok ama çok minnettar hissetmelisin.

Fergal Reid: Gerçekten çok ayrıcalıklı hissediyorum.

“Yeni ve heyecan verici bir şeyin – sinir ağı güdümlü teknolojinin – sürekli ilerleme kaydettiğini gördük – gerçekten kendine gelmeye ve faydalı olmaya başladı”

Des Traynor: Bir anlamda sondan başlayalım. AI hype makinesinin bir kez daha aşırı hızda olduğunu hissediyor. Bu, benim bakış açımdan birkaç yılda bir oluyor, ama gerçekten görebildiğim şey, insanların pek çok sanat eseri yaratması. DALL-E nesli başladı ve oluşturulan bazı görüntüler nefes kesici. Geçen gün, DALL-E komutları için, sizin için görüntüler oluşturan komutları tam anlamıyla satın alabileceğiniz, meta olduğu kadar meta olan bir pazar yeri olduğunu gördüm. Daha pratik bir anlamda, GitHub yardımcı pilotu artık siz yazarken kodunuzu geliştirebilir, bu oldukça inanılmaz; OpenAI'den GPT-3 ile oynadım ve soruları sordum ve benim için küçük paragraflar ve hikayeler oluşturmasına izin verdim ve oldukça etkileyiciydi. Biraz daha yakınlaştırırsak, gerçekte neler oluyor? Son zamanlarda bir şey mi oldu? Bunun belirli bir olay zinciriyle ilgisi var mı? Naber?

Fergal Reid: Paketi açmak karmaşık bir şey – çok şey oluyor. Şirketler arasında yapay zeka ve makine öğreniminin bu alanına çok fazla yatırım yapılıyor, bu nedenle tam olarak neler olduğunu ortaya çıkarmak zor. İnsanların makine öğrenimi belgelerini koyduğu arxiv'e bakarsanız, her gün bir sürü yeni şey var. Dolayısıyla, bunun üzerinden bir anlatı yürütmek zor. Benim düşünceme göre, son beş yıldır, yeni ve heyecan verici bir şeyin – nöral ağ odaklı teknolojinin – gerçekten kendi kendine gelmeye ve faydalı olmaya başladığını sürekli olarak gördük. GPT-3, OpenAI'den bahsettiniz ve biz buna büyük bir dil modeli diyoruz, bir sonraki kelimeyi ve onun gördüğü bir dizi kelimeyi tahmin etmeye çalışan büyük bir sinir ağı. Ve sadece bunu büyütüyorlar. Ona giderek daha fazla bilgi işlem eklediler ve inanılmaz şeyler yapmaya başladı.

Des Traynor: Yani, belki sadece birkaç sözlük tanımı. Yani, daha fazla hesaplama eklemek, bu daha fazla CPU gücü mü?

Fergal Reid: Evet, kesinlikle. Çok eskilere gidersek, bilgisayarlarımızdaki CPU'lar, bilgisayarlarımızın beyni, genel amaçlı şeyleri yapmakta gerçekten çok hızlıydı. Ve belki de doksanların ortasından sonuna kadar, esas olarak video oyunları ve benzeri şeyler tarafından yönlendirilen, bu GPU'ların veya grafik işleme birimlerinin benimsendiği bu kitlesel pazara sahiptik.

Des Traynor: Ekran kartları ve bunun gibi şeyler mi?

Fergal Reid: Video kartlarında ve 3dfx kartınızda ve her şeyde. Ve bilgisayar oyunları için grafikler yapmakta gerçekten iyiydiler. Sonra, 2000'lerin başında insanlar, "Ah, video oyunları için yaptığımız işlemler matris ve çarpma için gerçekten çok iyi" dediler. Ve bir sinir ağını eğitirken yapmanız gereken işlemler için bu tür şeylerin gerçekten yararlı olduğu ortaya çıktı. Ve böylece, uzun bir süre sonra, bir AI ve bir kripto madenciliği devrimi olduğu için video stok değeri çatıdan geçiyor.

Sinir ağlarının yükselişi

Des Traynor: Sinir ağları üzerinde çalışırken yeni bir alıma atıfta bulundunuz. Sanki o zamanlar üniversitedeyken onları duymuş gibiyim. Onlara daha fazla iş mi yapıldı? Makine öğrenimi yapmanın birincil yolu olarak mı ortaya çıktılar? Uzaklaştığımız bir alternatif var mı?

Fergal Reid: Evet, uzaklaştığımız bir alternatif olduğunu söyleyebilirim. Şimdi, sinir ağlarını fazla satmak istemiyorum. Sinir ağları yeni bir sıcaklık ve son beş yılda gördüğünüz neredeyse tüm atılımlar sinir ağlarında. Ancak bu, makine öğreniminin bir alt bölümüdür. Intercom'daki makine öğrenimi ekibinde, sinir ağları, birinin daha sonra ne yapacağını tahmin etmek için aynı lojistik ilerleme malzemesini kullanarak yaptığımızın belki %30'unu oluşturuyor.

Metin, görüntü veya ses yığınları gibi yapılandırılmamış veriler olduğunda, sinir ağları artık bu verilerle başa çıkmanın kesinlikle en iyi yoludur. Gördüğünüz atılımlar için – görsel şeyler, sesli şeyler, metin sentezi – bu verilerde gerçekten çok fazla bağımlılığı yakalayabilen devasa bir modele ihtiyacınız var ve sinir ağları bunu yapmanın ana yoludur. İnsanlar onları ölçeklendirmek için çok yatırım yaptı ve onları çok daha büyük çalıştırabilirsiniz. Hakkında okuduğunuz modellerden bazıları, yalnızca bu modeli eğitmek için 10 milyon dolarlık hesaplamaya mal olabilir.

“Geçmişte, herhangi bir yapılandırılmamış metin veya resim verisi için, ona makine öğrenimi perspektifinden bakar ve 'Burada ne yapacağımı bilmiyorum' gibi davranırdık”

Bir takım şeyler oluyor. Onları geniş ölçekte eğitme konusunda daha iyi hale geliyoruz. Sorunu, ilerleme kaydedebileceğimiz ve anlamlandırabileceğimiz bir şekilde ifade etmede daha iyi hale geliyoruz. Videoda, performansı iyileştirmeye devam ediyoruz. Dolayısıyla birçok teknolojik devrim yaşandı. Bu, birçok farklı eğilimin bir birleşimidir.

Des Traynor: Ürün yönüne geçmek için, daha önce olmayan ne mümkündü? DALL-E bir komut istemi alabilir ve bir görüntü üretebilir; GPT-3, oldukça gerçekçi görünümlü oluşturulmuş metinler üretebilir. Bir metin yığınını analiz etmek ve ne söylediğini anlamak, onu azaltmak veya basitleştirmek ya da duygu ya da her neyse kontrol etmek istiyorsanız, şu anda sahip olduğumuz bir çeşit yetenek listesi var mı? Sormamın nedeni, bunu Başbakanların bu konuda nasıl düşünmesi gerektiğine daha yakın bir şekilde bağlamaya çalışıyorum.

Fergal Reid: Evet, bunu düşünmenin birkaç farklı yolu var. Geçmişte, herhangi bir yapılandırılmamış metin veya resim verisi için, ona makine öğrenimi perspektifinden bakar ve “Burada ne yapacağımı bilmiyorum. Bunun boyutu ve belgemde olabilecek olası metin paragraflarının sayısı çılgınca yüksek. Geleneksel makine öğrenimi ile bununla nasıl başa çıkacağımı bilmiyorum.” Ve özellikleri ayıklamak gibi şeyler yapabilirsiniz, "Bunu bir kelime torbasına böleceğim ve bir şeyler çıkaracağım" diyebilirsiniz. Ancak şimdi farklı olan, bu verilerle çalışma yöntemlerinizin geçmişte olduğundan çok daha iyi çalışacak olmasıdır. Ve o kadar çok el mühendisliğine ihtiyacınız yok. Bir sinir ağı kullanabilirsiniz.

Orta adımların, orta katmanların ortaya çıktığını görmeye başlıyoruz. Bir ton metin verisi üzerinde eğitilmiş bu büyük sinir ağlarından birini alabileceğiniz ve daha sonra Google veya 10 milyon doları harcayan büyük oyunculardan biri tarafından yayınlanabilecekleri yerleştirmeler dediğimiz bir şey var. eğitim ve bunu bir sayı vektörüne dönüştürmek için verdiğiniz herhangi bir metni almak için kullanabilirsiniz. Ardından, bu sayı vektörüyle bir şeyler yapabilirsiniz. Yani çığır açan bir teknoloji var, ancak yeni başlayanların ürün yapmak için gerçekten birlikte çalışabilecekleri yapı taşları verdi.

“Birçok yapılandırılmamış veriyle, özellikle de büyük hacimli verilerle uğraşan ve belki de onunla karar vermeye çalıştığınız herhangi bir başlangıç ​​ekosistemindeyseniz, kesinlikle buna dikkat etmelisiniz”

Des Traynor: Yani ilk yüzde X sizin için daha büyük şirketler tarafından mı yapılıyor?

Fergal Reid: Kesinlikle. Veya açık konsorsiyum da. Daha sonra piyasaya sürülen büyük bir şeyi eğitmek için çok para toplayan bir konsorsiyum oluşturan insanlar var.

Des Traynor: Öyleyse, ürününüz yanıtlar oluşturmak, yazmak, ayrıştırmak veya anlamak gibi birçok insan tarafından yazılmış metin içeriyorsa, son birkaç yılda zeminin ayaklarınızın altından kaydığını varsaymalısınız?

Fergal Reid: Evet, bence bu adil bir varsayım. Çok sayıda yapılandırılmamış veriyle, özellikle de büyük hacimli verilerle uğraşan ve belki de onunla karar vermeye çalıştığınız herhangi bir başlangıç ​​ekosistemindeyseniz, kesinlikle dikkat etmelisiniz. Yetenekler manzarası değişti. 10 yıl önce endişelenmen gereken hiçbir şey yoktu, ama şimdi, belki daha önce yapamadığın harika bir şey yapabilirsin. Arama kadar basit şeylerde bir değişiklik görmeye başlıyoruz. Altı, yedi yıl önce, Elasticsearch veya buna benzer bir şey alır ve aramanızı halletmek için bu denenmiş ve gerçek algoritmaları kullanırdınız. Artık sinirsel aramayı kullanabilirsiniz. Ve bu alanda gelişen teknoloji ve ürünleri görmeye başlıyoruz.

Bir sonraki en iyi eylemi aramak için

Paul Adams: Size sormak istediğim bir şey, bir sonraki en iyi eylemi vaat eden ürünler. Bunun ürün ekipleri için iki nedenden dolayı önemli olduğunu düşünüyorum. Biri, o alandaki ürünlerdir – bir müşteri iletişim ürününüz veya satış ekipleri için bir ürününüz varsa, satış görevlisine bir sonraki en iyi eylemin ne olduğunu söyleme konusunda pek çok vaat vardır. Ve ürün ekipleri genellikle müşterilerinin ve kullanıcılarının daha fazlasını yapmalarını ve daha fazla etkileşimde bulunmalarını sağlamaya çalışıyor, bu nedenle bu, büyümeyi sağlamak için onlar için bir araçtır. Bunun ne kadarı hype? Gerçek ne kadar?

Fergal Reid: Bu makine öğrenimi ürünlerinde her zaman bir sorun vardır ve bunu geçimini sağlamak için makine öğrenimi ürünleri geliştiren biri olarak söylüyorum. Onları analiz edip kıyaslamadıkça belirli ürünler hakkında konuşamam. Bir sonraki en iyi eylemin aslında sinir ağları olma ihtimalinin daha düşük olduğunu söyleyebilirim. Ya da oradalarsa, bunun bir parçası olarak orada olacaklardır. Bunu bir Intercom bağlamına koymak için, destek temsilcisi ile son kullanıcı arasında gerçekleşen konuşmanın metnini alacağım ve bunu anlamaya çalışmak için yerleştirmeleri kullanacağım. Ama sonra, muhtemelen bunu neler olup bittiğine dair bir sürü başka sinyalle, belki hesabın değeriyle veya müşterinin müşteri yolculuğunda nerede olduğuyla bir araya getireceğim ve denemek için daha geleneksel bir makine öğrenimi sınıflandırıcı veya regresör kullanacağım. "Tamam, yapabileceğim bir sonraki en iyi şey nedir?"

“Doğruluk arttıkça, arttıkça, arttıkça, 'Her zaman doğru değil, ama faydalıdır ve düşünmek zorunda değilim' gibi kritik bir eşiği aşıyor. yardımcı olur '"

Ve bu şey oldukça iyi çalışıyor. Ürünlerimizde, birisinin bir web sitesine gelip haberciyi açtığında ne soracağını tahmin etmeye çalışan, daha geleneksel makine öğrenimi yöntemlerini kullanan özelliklere sahibiz. Bunu, o kullanıcı hakkında sahip olduğumuz tüm verilere ve sinyallere dayanarak yapıyoruz ve bu oldukça iyi çalışıyor. Bununla iyi tahminler yapabilirseniz, oradan daha genel bir şeye, bir sonraki en iyi eyleme kısa bir adım atmış olursunuz.

Bahse girerim bu şeyler oldukça iyi çalışıyor. Doğruluk konusunda makul beklentilerim olurdu. Bütün bunlar, birilerini güçlendirip onlara yardım ederken işe yarıyor. Doğruluk çok düşükse, “Ah, bu can sıkıcı. Berbat. Buna dikkat etmeye değmez.” Ama sonra, doğruluk arttıkça, arttıkça, arttıkça kritik bir eşiği aşıyor, "Her zaman doğru değil ama faydalı ve düşünmek zorunda değilim. Sadece ona bakıp yardımcı olduğunu kabul edebilirim. ” Bu ürünlerde aradığımız şey bu ve eminim sektörde buna benzer şeyleri olan insanlar vardır.

Des Traynor: Evet. Gmail'in otomatik tamamlama özelliğinin, bu özelliği kapatmayacağım algısal uçurumu aştığını hissediyorum. Bir yanıt yazıyorsunuz, söyleyeceğiniz sonraki iki şeyi tahmin ediyor ve sekmeye basabiliyorsunuz ve belki bir cümleyi veya bir kelimeyi ya da buna benzer bir şeyi değiştirirsiniz, ancak yön açısından olmamasından daha değerlidir.

“Hangi önerilerin, müşteriye kazan-kazan yöntemiyle daha iyi CSAT veya daha iyi yaşam boyu değer sağlayan ekip arkadaşı davranışını harekete geçirdiğini öğrenebileceğimiz bir gelecek görüyorum”

Paul Adams: Yine de komik. Davranışı değiştirdiğini düşünüyorum. Öneriye bakıyorum ve “Bunu pek söyleyemem ama yeterince yakın” diyorum. Sekme, sekme, sekme. Girin, gönderin.

Fergal Reid: Önerileri ve ürettikleri önerilerin duyarlılığını ve gerçek dünyayı nasıl değiştirdiklerini ölçtükleri deneyler yapıp yapmadıklarını merak ediyorum. Facebook, gün içinde bunun gibi bazı deneyler yaptı. Intercom gibi bir şeye bakarsanız, gelen kutusunda akıllı yanıt önerileri yapmaya başladığımız bir gelecek görüyorum. Hangi önerilerin, müşteriye kazan-kazan yöntemiyle daha iyi CSAT veya daha iyi yaşam boyu değer sağlayan ekip arkadaşı davranışını harekete geçirdiğini öğrenebileceğimiz bir gelecek görüyorum. Bu düşük sürtünmeli istemler. Karıma ne zaman “Seni seviyorum” yazsam bunu düşünürüm. Bazen “Seni seviyorum” önerisi alıyorum ve “Bunu kendim yazıyorum” diyorum.

Des Traynor: Evet. Daha sömürgeci bir yanı var - biz araçlarımızı şekillendiriyoruz ve araçlarımız da bizi şekillendiriyor. Intercom'u kullanan bir ekibe yeni katılan bir CS temsilcisinin, Intercom'un onlara bunun en iyi performans gösteren davranış olduğunu söylemesi gerçeğine dayanarak meslektaşları gibi konuşup yazacağını hayal edebilirsiniz. Neredeyse müşteri desteği için bir okul gibi.

Fergal Reid: Yeni tekrarlar için en iyi uygulama gibi görünen düşük sürtünmeli bir antrenman rampası fikrini seven bazı müşterilerle konuştuk. Sistemin sizi iyi bir şekilde yapmaya ittiği şey budur.

Soruna karşı teknoloji

Des Traynor: Bir seviye geriye gidersek, anlatıların çoğunun, diyelim ki DALL-E çıktığında bile, en popüler konuların şuna benzer şeyler olduğunu hissediyorum: Bu?" Veya, "İşte en iyi fikrim." Açıkçası, herkesin aklı “Ah, bir tişört şirketi kurabilirsin” ya da her neyse gider. Bunun ne için yararlı olabileceğine dair en iyi fikrim, bir çocuk hikaye kitabına açıklama ekleme yeteneğidir. Çocuk tipi bir hikayenin olduğu bir araç hayal edin ve onu büyütmek için resimler görünecek. Stok fotoğrafçılığını değiştirmek için Squarespace veya Mailchimp için nasıl bir eklenti olabileceğini de görebilirsiniz. Keynote veya Google Slides' benzer olacaktır.

Yine de bu konuda geriye doğru yaklaştığımızı hissediyorum. “Artık metin alıp görüntü üretebileceğimize göre, hadi bundan bir şirket kuralım” diyoruz ki, en iyi şirketlerin nereden geldiği değil. Genellikle, dünyadaki bir sorunu çözmek isteme eğilimindedirler. Bir hayranın veya bir PM'nin bu alan hakkında düşünmesinin en iyi yolu nedir? Genel olarak konuşursak, muhtemelen belirli bir yeni sinir teknolojisi parçası hakkında değil, bir sorun hakkında takıntılıdırlar.

Fergal Reid: Bu çok karmaşık bir soru. Çoğu zaman, standart tavsiye şudur: Yeni bir teknoloji girişimi kuruyorsanız, asla sorun arayan bir çözüm olmak istemezsiniz. Gerçek bir somut sorun bulmak ve sonra bir çözüme yaklaşmak istiyorsunuz. Bence bu genellikle iyi bir tavsiye. Intercom'da sorunla başlama konusunda bir prensibimiz var. Ama bunun istisnaları olduğunu düşünüyorum. Gerçekten yıkıcı teknolojiyle, "Bir şey dünyayı değiştiriyor, manzarayı değiştiriyor, burada yeni bir yetenek var ve bunun ne işe yaradığını bilmiyorum, ama bir şey için devrim niteliğinde iyi olacağını biliyorum, “Çözümle başlamanın ve sonra sorun aramanın sorun olmadığını düşünüyorum.

“Henüz yeterli olmayan bir teknoloji çözümü oluşturmaya çalışıyorsanız, sorunla başlamanın bir anlamı yok”

Şu anda ML ve AI hakkındaki yutturmacaya inanıyorum. Bu sefer gerçek olduğunu söyleyebilirim ve bu yüzden “Bak, burada devrim niteliğinde bir yeteneğimiz var. Bunun uygulanabileceği tüm büyük fırsatlar nerede?” Sonra, açıkçası, bir etkileşim var. Bir fırsat bulduğunuzu düşündüğünüzde, muhtemelen gidip sorunla başlamak istersiniz.

Intercom'daki makine öğrenimi ekibi, diğer ekiplere kıyasla biraz sıra dışı. Ürün ilkelerine diğer ekiplerden biraz daha fazla uyum sağlıyoruz çünkü problemle başlamak ve teknoloji arasındaki bu gri alanda olmak zorundayız. Henüz yeterli olmayan bir teknoloji çözümü oluşturmaya çalışıyorsanız, sorunla başlamanın bir anlamı yoktur. O halde, teknolojiyle biraz başlamamız, prototipleme yapmamız, neyin mümkün olduğu hakkında bir fikir edinmemiz ve sonra gidip gerçekten problemin üzerine gitmemiz ve “Yararlı mı, değil mi?” diye sormamız gerekiyor.

Des Traynor: Bir anlamda inovasyonun hem arz hem de talep tarafına bakmanız gerekiyor. Çözebileceğimiz tüm problemler ve sahip olduğumuz yetenekler arasında, arabağlantıda iyi bir firma nerede? Ürünümüzü Çözünürlük Botunu alırsak, bunu bir sorun/çözüm eşleştirmesi olarak nasıl ifade edersiniz?

“Resolution Bot ile birinci versiyonumuz için sinir ağları veya herhangi bir şey kullanmadık, ancak burada iyi bir şey inşa etmenin mümkün olduğuna inandık”

Fergal Reid: Başladığımızda, teknolojide ve ürün ortamında botların gerçekten zayıf olduğu bir hareket olduğunun farkındaydık ve çok sınırlı koşullarda zorlayıcı deneyimler sunmaya başladılar, "Tamam, burada bir şey var. ” Ve sonra şöyle oldu, "Tamam, kendi alanımızı alabilir miyiz, sohbet ve sohbetleri alabilir miyiz ve sorun ile harika müşteri deneyimleri sağlayacak teknoloji arasında bir eşleşme olup olmadığını görebilir miyiz?"

Çözünürlük Botu ile, birinci versiyonumuz için sinir ağları veya herhangi bir şey kullanmadık, ancak burada iyi bir şey inşa etmenin mümkün olduğuna inandık. Asgari teknoloji yatırımı yaptık, berbat bir birleştirilmiş prototipin müşterilere gerçekten yardımcı olacağını ve insanların bunu gerçekten isteyeceğini doğruladık, bunu riske attık ve sonra tekrarladık, tekrarladık ve yineledik. Şu anda teknolojimizin üçüncü veya dördüncü sürümündeyiz ve çok modern, süslü sinir ağları kullanıyor ve sınıfının en iyisi performans ve doğruluk elde ediyor. Ancak ilk sürüm, bunun insanlara gerçekten yardımcı olacağını doğrulamak için Elasticsearch'ün kullanıma hazırdı.

Bu aramaya rehberlik etmek istiyorsun. "Ürün alanının bu genel yönünde iyi bir şey olduğunu biliyorum" gibi olmak istersiniz. Teslim edilmesi imkansız bir ürün için onaylanmış bir taleple sonuçlanmayacağım. Orada olmak istemiyorsun. Ayrıca, "Kimsenin umurunda olmayan bir şey için iğneyi kesinlikle hareket ettirecek harika bir algoritmam var" gibi olmak istemezsiniz. Bu denklemin her iki tarafını da yinelemeniz ve ortada bir iniş bölgesi bulmanız gerekiyor.

Gerçek olamayacak kadar iyi mi?

Paul Adams: Aslında taburenin üçüncü bir ayağı var. Bir problem var, bir çözüm var ve sonra hikaye var ya da onun hakkında ne söyleyebilirsiniz. Yapay zeka ve makine öğrenimi söz konusu olduğunda uğraştığım şeylerden biri, dışarıdan ne söylediğiniz ve diğer insanların dışarıdan ne söylediği konusunda kendinizi iyi hissetmenizdir. Bunun en kötüsü, tüm şirketlerin ortaya çıkıp büyük iddialarda bulunduğu ve aslında ne hakkında konuştuğunu bilen insanların “Bunlar gülünç iddialar” dediği bir iletişim trajedisi. “Ama bir rekabet ikilemi var. Rakibimiz %80 diyorsa ve biz bunu elde edebileceklerini düşünmüyoruz ama bizimki 50 ise, bu konuda ne düşünüyorsunuz? Yapabileceğiniz iddialar ve problem, çözüm ve hikaye arasındaki denge hakkında ne düşünüyorsunuz?

“Piyasada ürünlerle karşılaşıyorum ve iddialarını değerlendiriyorum ve 'Gerçekten yapıyor mu? Bunu nasıl değerlendiriyorsunuz?”

Fergal Reid: Yani, çok zor. İç ürün geliştirmeyi pazardaki başarıdan ayırmayı düşünüyorum. Dahili ürün geliştirmede ve bu Intercom'da doğrudur, eğer gelip "Hey, çocuklar, yeterince iyi bir ürün deneyimi sunabileceğimizden oldukça eminim" dersem, en azından bunun böyle olduğu ortaya çıkarsa sorumluyum. durum hiç de öyle değil. Yani, dahili olarak, insanlarla çalışmanız ve her şeyi iyi açıklamanız gerekiyor, ancak en azından teşvikler uyumlu.

Dışarıda, insanlar makine öğrenimi ürünleriyle pazarda rekabet ederken, bu gerçekten zor. Piyasada ürünlere rastlıyorum ve iddialarını değerlendiriyorum ve “Gerçekten yapıyor mu? Bunu nasıl değerlendiriyorsunuz?” Şaşırtıcı bir şey vaat eden yeni bir araştırma makalesi görsem ve "bunu yapay zekaya söyledik ve bu da böyle dedi" örneklerine sahip olsa bile, ilk sorum her zaman şöyle olur: örnek? Bunu 10'da 9'u mu yapıyor yoksa 10'da 1'i mi?" Çünkü her birine bağlı olarak çok farklı. Her zaman bu örtük, "peki, performans nedir, aslında?" Oturduğunuz ve onunla oynadığınız bir tür kafa kafaya yapmadığınız sürece gerçekten söyleyemezsiniz. Müşterilerimiz daha çok kafa kafaya konsept ve değerlendirme çalışmaları yapıyor ve buna bayılıyorum. Bu harika. Görmek istediğimiz şey bu.

"Kesinlikle gereğinden fazla vaatte bulunabilir, gereğinden az teslim edebilir ve ardından hesap dalgalanmasını izleyebilirsiniz"

Genel olarak alan açısından, insanların demoları giderek daha fazla kamuya açık hale getirdiğini görüyorsunuz. İnsanlar DALL-E 2'ye gidiyor ve daha önce bağımsız araştırmacılara erişim sağlıyorlar. Ya da gazetelere "bir standart komut isteminde tek seferde ürettiği şey budur" diyen şeyler yazıyorlar. Bu, insanların kafalarını etrafında toplamalarına yardımcı olur.

Des Traynor: Ne tür bir gelir istediğinize dair bir soru var çünkü kesinlikle gereğinden fazla vaatte bulunabilir, gereğinden az teslimat yapabilir ve ardından hesap dalgalanmasını izleyebilirsiniz. Veya, "İşte sizin için yapabileceğimizi düşündüğümüz şey" diyebilirsiniz, anlaşmayı kaybetme riskiyle karşı karşıyasınız, ancak şunu bilin ki, eğer dönüştürürlerse, dönüştürdüklerini alacaklarını da bilin. Bence içinde olmak tehlikeli bir dünya – alt yola karşı yüksek yolu seçmek; Tam olarak elde edeceklerini düşündükleri şeyi alacak olan müşterileri almak yerine, 11. ayda umduklarının yanına bile yaklaşamadıkları için çok sayıda kızgın müşteri elde etmek. Bu bir meydan okuma.

Fergal Reid: Bu bir meydan okuma ve bu meydan okumanın pek çok yönü var. Beklentileri de yönetmek zorundayız. Makine öğrenimi çok daha iyi hale geliyor, ancak yine de mükemmel değil. Bazen Çözünürlük Botumuzu satın alan müşterilerimiz oluyor ve bu iyidir, sınıfının en iyisidir, ancak yine de hata yapar. Her yazılım ürünü hala hata yapar. Bu nedenle, bu olumlu ilişkiye sahip olmak için her taraftaki beklentileri yönetmelisiniz.

Des Traynor: Makine öğrenimine kaynak sağlama hakkında nasıl düşünüyorsunuz? Intercom'da, tüm ekiplerden ayrı olan ve ardından makine öğrenimi işlevselliği sağlamak için ortak olan sizin liderliğinizde bir ekibimiz var. Sizce böyle kalacak mı? Ekiplerin yerleşik makine öğrenimi mühendislerine sahip olması gerektiğini düşünüyor musunuz? Intercom'daki her ekibin kendi tasarımcısı vardır - eklenecek tasarım parçaları arayan bir tasarım ekibimiz yok. Bu şekilde olması mantıklı mı? Dışarıdaki dinleyicilerimiz için parmaklarını nasıl içeri sokarlar? Özel bir ML türü kapsülle mi başlayacaklar, yoksa bir kişiye mi sahip olacaklar? Yeni başlayanlar ML'yi getirmeye nasıl başlamalı?

Fergal Reid: Teknoloji geliştirmenin bu noktasında, merkezileştirilmiş bir makine öğrenimi ekibinin, bizim büyüklüğümüzdeki veya daha küçük kuruluşlar için daha iyi olduğuna dair güçlü bir görüşüm var. Burada olgunlaşmamış teknolojiyle uğraşıyoruz. Teknolojinin kullanımı zor ve yanlış gitmesi kolaydır. Yazılım mühendisliği, veri bilimi veya analitik becerileriyle örtüşen bir dizi beceri vardır, ancak bunlar aynı değildir. Makine öğrenimi ürünlerinin benzersiz tuzakları olduğu için çalışabilen ve bu beceriler dizisini geliştirebilen ve tuzakları öğrenebilen merkezi bir ekibe sahip olmanın çok mantıklı olduğunu düşünüyorum. Olasılıkçıdırlar. Bahsettiğimiz gibi, bazen yanlış anlıyorlar. Bu nedenle, bir makine öğrenimi ürünü tasarlarken veya oluştururken gerçekten terlemeniz gerekir. Doğruluk oranı, iyi bir müşteri deneyimi sağlamak için yeterince iyi mi? Bu zor.

“Daha sonra proje başına proje bazında yardımcı olmaya giden merkezi bir modelin şu anda doğru model olduğunu düşünüyorum”

Bir tasarımcıyla konuştuğunuzda, sıklıkla gördüğümüz bir şey, başlangıçta her şeyin yolunda gittiği altın yolu düşünemeyeceğiniz fikrini kafalarına takmalarının zor olmasıdır. İşlerin ters gittiği ve hataların birikebileceği tüm yolları göz önünde bulundurmalısınız. Bu zor.

Yazılım mühendisliğinin bu tuhaf kesişim noktasındayız ve bu ürünleri veri bilimi veya araştırma ile dağıtabilmemiz gerekiyor. Bir ürün ekibi yönetmeliyiz. Yalın ve verimli olmalıyız, ancak aynı zamanda inovasyon için alan yarattığımız bir araştırma ekibi gibi çalışmamız da gerekiyor. Bir şey üzerinde iki hafta çalışarak geçirdin ve hiçbir yere gitmedi mi? Bu iyi. Buna yatırım yapmaya istekli olmalıyız. Dolayısıyla, proje bazında yardıma giden merkezi bir modelin şu anda doğru model olduğunu düşünüyorum.

Gerçekçi olmak

Des Traynor: Fergal gibi birinin "Hey Paul, müşteri destek ürünümüzün doğasını değiştirebilecek bir ürün deneyeceğiz, ancak işe yaramayabilir ve" demesi gerçeğiyle nasıl başa çıkıyorsunuz? tüm bunların ilk tarafında hiçbir şey göremeyebilirsiniz.” Aynı zamanda benim gibi biri, "Hey, yol haritalarına ulaşmamız gerekiyor ve şirkete ne inşa ettiğimizi ve satış ekibine ne satacağını söylemeliyiz" diyor. Bu karmaşıklığı nasıl çözersiniz?

Paul Adams: Hiç sevk edilmeyen ürünler üzerinde yıllarca çalışmış biri olarak, mümkün olan en kısa sürede gönderilmeyecek bir şeyin kokusuyla ilgili derin, derin yara izlerim var, mümkün olduğunca küçük.

Des Traynor: Açık olmak gerekirse, bu eski işvereniniz olurdu, değil mi?

Paul Adams: Evet. Eski işimde, evet. Ancak Intercom'daki ilk günden itibaren Des ve ben her zaman nakliye ve küçük başlangıçlar konusunda takıntılıyız. Tanımladığımız soruna en küçük ve en hızlı çözüm olan, mümkün olduğunca hızlı bir şekilde kapsam belirleme ve bir şeyler ortaya çıkarma konusunda takıntılıyız. Bu yüzden her zaman böyle olan bir arzum var.

"Ben akademiden geliyorum ve akademide zaman geçirmiş biri, büyük ihtimalle aya söz veren ve sonra hiçbir şey yapmayan pek çok proje görmüştür."

Şimdi, açıkçası, bu farklı. Yine de Fergal'in yanıtlamasını çok isterim - biraz yan not, ama bence önemli - Des'in bir makine öğrenimi ekibine nasıl kaynak sağlayacağınızla ilgili sorusunu daha önce yanıtlarken, makine öğrenimi mühendislerinden bahsediyorsunuz . Buradaki ML ekibi geçmişimizin neredeyse tamamı için ML mühendisleri olmuştur. Ancak yakın zamanda bir makine öğrenimi tasarımcısı tuttuk. Bundan da kısaca bahseder misiniz? Çünkü bence buradaki cevabın önemli bir parçası bu. ML tasarımcısı ne yapar ve fark nedir?

Fergal Reid: Yani, bu zor bir soru. Bu onun üçüncü haftasının başlangıcı, bu yüzden onunla konuşmadan önce podcast'te ne yapacağı hakkında konuşmak istemiyorum…

Des Traynor: Daha yüksek bir seviyede. Normal tasarıma karşı makine öğrenimi tasarımı hakkında ne düşünüyorsunuz?

Fergal Reid: Sıralamayı tekrar tersine çevirmeme izin verin, buna geri döneceğim. Gönderilmeyen şeyler üzerinde çalışmaktan nefret ediyorum. Doktora derecem var, akademiden geliyorum ve akademide zaman geçirmiş olan herhangi biri muhtemelen bir sopa üzerinde ay vaat eden ve sonra hiçbir şey yapmayan pek çok proje görmüştür. Ve bunun bir kısmı da gerekli atık, değil mi? Bir sürü şey denemek zorundasın çünkü çok riskli. Ama bir kısmı her zaman işe yaramayacaktı. Ve bu yüzden bu iki şeyi birbirinden ayırmak burada kesinlikle anahtardır. Makine öğrenimi ekibinin mümkün olduğunca keşifçi ve riskli olmasını, daha fazla keşif yapmamasını ve gereğinden fazla riskli olmamasını istiyorum.

Burada iki dünyayı aşmaya çalışıyoruz. Bu son derece katı Intercom ilkelerini korumaya çalışıyoruz: başarısız olacaksanız, hızlı başarısız olun; sorunla başlayın; küçük başlayın, küçük adımlarla ilerleyin. Bu ilkeleri takip etmek için çok çalışıyoruz. Ancak, birinin bunu isteyeceğine oldukça ikna olursak, araştırmayı ve riskli şeyleri ihtiyacımız olduğunda yaparız. Geliştirmenin her aşamasında ortadan kaldırmaya çalıştığımız risk konusunda çok, çok net olmak istiyoruz. Yani evet, böyle çalışıyoruz. Ortalama bir Intercom ekibinden daha araştırmacı olduğumuzu söyleyebilirim, ancak muhtemelen küçük adımlarla ilerleme ve tam olarak azaltmaya çalıştığımız risk konusunda dünyadaki ML ekiplerinin büyük çoğunluğundan daha düşünceliyiz. Kesinlikle bir araştırma laboratuvarı ekibinin olma eğiliminden çok daha fazlası.

With that in mind, we've recently hired a designer for the first time in the five years we've had a machine learning team. That's partly because the team is getting a bit bigger and can kind of support that, and since our team has grown, our work is touching more and more parts of the Intercom product, and we can do better than handling the product design ourselves and having a ML engineer figure out the product design envelope. We'll be able to increase the scope of things we can interact with less with disruption to the teams in whose area we're operating.

“Even when you're doing something as simple as testing a ML system, what if it's not working the way you expected? To unpack that, you've got to be willing to engage with a lot of complexity”

Des Traynor: Is it a different type of design?

Fergal Reid: There is definitely a certain type of design specific to ML and ML products. And we can see this when we're interviewing or interacting with designers in this space. There's sort of a product design or a systems design, and a lot of the time, its aspects are closer to API design than UI design. And obviously, there's a big spectrum here. We have a great design team at Intercom. We have people used to working in all different parts of that spectrum. But there's definitely a difference.

And also, you're looking for quantitative skills to make progress in this space. It's very immature technology. There will come a time, I'm sure, in five, 10 years, I don't know, when Amazon and Google and everyone will have figured out the best API. And it's going to have really nice docs and explain to you all the premises of that space, but we're not there yet. We're a very, very long way away from there. There are just so many trade-offs. Even when you're doing something as simple as testing a machine learning system, what if it's not working the way you expected? To unpack that, you've got to be willing to engage with a lot of complexity. Some designers are great at that, but for other designers, that wouldn't be how they'd like to work. And so, you're looking for something that treads all those needles at once.

The future of conversations

Des Traynor: We're coming towards the end here. I would like to try a little quick-fire round that I haven't prepared you for at all.

Fergal Reid: Sounds good.

Des Traynor: Here's my proposal. I name a product or a product space, and you tell me something that you think is possible that people don't think about.

Fergal Reid: Oh my God. Peki. This is going to be futuristic and speculative and wrong, but let's do it.

Des Traynor: Let's start. Issue tracking.

Fergal Reid: A lot like customer support. You can probably do a lot more with clustering issues and detecting when a bunch of issues have one root cause. You can probably do much better in terms of the next best action about suggestions and resolutions for common issues you've seen before.

“We're heading for a future where any suggestions, smart replies in our inbox, or the Gmail-style ahead suggestions are starting to become an agent”

Des Traynor: Cool. This is going well. Project management apps. Say Basecamp or Asana or something like that.

Fergal Reid: Project management apps. Probably an insights layer, and you can build on top of that stuff. People always say that. It's always easy to say and extremely difficult to make an insights product work, but it's probably an insights layer. There's probably a lot you can do with unstructured assets that are part of the project you're tracking, and you can start to make sense of those that you couldn't in the past. Definitely field research, but there's probably something there.

Des Traynor: Cool. Paul, do you have any?

Paul Adams: Well, one hot space we mentioned earlier is communication products. I'm thinking about Gmail, for example. Gmail was the same for the best part of a decade. And now, suddenly, it feels like there's an explosion in all sorts of cool things happening in Gmail.

Fergal Reid: This is going to sound very self-serving, but I think that the sort of domain we're in at Intercom is going to drive a lot of extremely exciting innovation that is going to percolate out to broader, more horizontal products like Gmail. To give an example of why I think this: if you look at our customers as they use Intercom, they're having so many of the same conversations again and again. There's so much structure in that domain. It's this mix of unstructured texts that they're writing, but then there's so much structure to the conversation, whereas Gmail is broad and horizontal. If you look at my inbox, any email could be completely different than the last. So, I feel that companies like us working in areas like customer support are going to be in a great position to innovate because there's just so much structure to take advantage of there. You're going to have suggestions, recommendations, and automation. And I think that will percolate out. That will go out to these broader, more horizontal products after it has proven its business value. We're heading for a future where any suggestions, smart replies in our inbox, or the Gmail-style ahead suggestions are starting to become an agent. It's starting to scratch that direction, and we're going to see more and more of that.

Paul Adams: It's easy for me to imagine a world where a WhatsApp exchange between any one of us is literally just tap, reply. Tap, reply. Tap, reply.

Des Traynor: We're trying to go for dinner. Here are four places. Bang. What time? Bang.

Paul Adams: But literally, you're just inserting the recommended content.

“If you ever wonder what the future looks like, put the two humans doing the task where one person's allowed to touch the computer and the other isn't, and see how those two humans interface”

Fergal Reid: Now, is the future of the inbox something where you're sitting almost looking at this dashboard of a conversational tree unfolding and your job is to guide the AI to answer questions for you? Maybe the future of coms and conversations looks a lot less like typing on a keyboard. You're still going to do that sometimes, but maybe 80% of what you do will be much more structured, like guiding the branches on a tree.

Des Traynor: The AI stops augmenting you, you start augmenting it.

Fergal Reid: Exactly, which is good. It's almost like you're managing somebody who's answering your conversations. And that's always my number one thinking tool for AI disruption. Imagine you had a very well-paid, smart human doing the task, and you told them what to do. What would that look like? People were like, “Oh, there'll never be software that automatically programs, or it will never have visual programming. We've tried it a whole bunch of times.” Well, I used to do programming competitions, and if you have a highly skilled developer, you don't say the exact keystrokes. You say, “Oh, now flip the list around. Peki. And then filter out those two things.” If you ever wonder what the future looks like, put the two humans doing the task where one person's allowed to touch the computer and the other isn't, and see how those two humans interface. That's a great starting point for where AI could take us.

Des Traynor: That's fascinating. Okay, last question. You mentioned that AI is a disruptive force. If our listeners haven't already embarked upon an AI, ML journey, and let's say they have the budget for a couple of heads, what's the best thing to do?

Fergal Reid: Like any disruptive tech change, the first question is always: Is it still worth ignoring? And how long can you ignore it for? And I'm not saying to race and do something now. Maybe you're in a space where you should continue to ignore this as it matures for another few years. If you can't ignore it, or if you want to do something in this space, I would say to concentrate your resources and your budget and get someone who's got some deep experience at the tech end and enough of a product head on their shoulders that they can go and work with your product team productively. And start exploring opportunities from there. Start building relationships with the designers and the company. Start sketching and figuring out, “Okay, what would be possible to design here?” And start mocking up some designs. Do they look exciting? Do they look good? Show them to your customers. Get customer feedback and take it from there.

After that, you're into the standard product development – how do you know how to resource something or not? But yeah, concentrate your resources and get someone who knows what you're doing as much as possible, and then have them pair with your existing organizational assets. Don't go and say, “We're going to do some blue sky thinking. We're going to start a new lab and put it off-site, and they're going to go and build nothing for two years, and it'll be very impressive.” No, definitely tread that balance. That's what it's all about. It's about marrying and balancing technology and design.

Des Traynor: Fergal Reid, thank you very much for joining us. Thank you, Paul. And we'll see you all again for Intercom on Product. Take care, everyone.