Fireflies skandalı: Şirket kurucuları yapay zeka kılığında toplantılara girmiş

Yapay zeka alanında son yılların en hızlı yükselen girişimlerinden biri olan Fireflies, kurucularından gelen itirafla gündeme oturdu.

Fortune 500 şirketlerinin yüzde 75’ine toplantı notları çıkarma hizmeti sunduğunu iddia eden ve kısa süre önce 1 milyar dolar değerlemeye ulaşan şirketin, ilk yıllarında “yapay zeka” adı altında iki kişi tarafından elle not tutulduğu ortaya çıktı.

Buna göre şirket çalışanı iki kişi, yapay zeka gibi görünerek toplantılara katılıyor, sessizce konuşmaları dinleyip not alıyordu.

Fireflies’in CTO’su ve kurucu ortağı Sam Udotong, LinkedIn’de yaptığı paylaşımda, şirketin 2017’deki başlangıç döneminde müşterilere “toplantıya katılan yapay zeka” sattıklarını, ancak gerçekte bunun yalnızca kendisi ve kurucu ortağı Krish Ramineni olduğunu itiraf etti.

Udotong paylaşımında şunları yazdı:

“Müşterilere 'toplantıya yapay zeka katılacak' diyorduk. Gerçekte, ben ya da ortağım ‘Fred’ ismiyle toplantıya bağlanıyor, sessizce oturup elle not alıyorduk.”

Kurucular, bu yöntemle 100’den fazla toplantıya katılarak "kiralarını ödeyip" şirketi ayakta tuttuklarını anlattı. Udotong, 6 başarısız girişimin ardından Fireflies’ın bu yöntemle tutunduğunu söyledi.

Tepkiler büyüyor: 'Mahremiyet ihlali'

Udotong’un paylaşımı kısa sürede LinkedIn’de gündem oldu. Çok sayıda kullanıcı, erişim izni olmadan toplantıya bağlanmanın mahremiyet ihlali olduğunu, bunun hukuki sonuçlar doğurabileceğini yazdı.

Otomasyon uzmanı Umar Aftab yorumunda şöyle dedi: “Bu, gizlilik ihlalidir. İnsanlar toplantıda bir bot istiyordu, davetsiz bir insan değil.”

Başka bir kullanıcı ise, “Bol şans, davalar yakında kapıyı çalar,” ifadelerini kullandı.

Gelen eleştirilere rağmen Udotong, ilk müşterilerin “insan unsurunun devrede olduğunu bildiğini ve umursamadığını” öne sürdü. Ancak birçok yorumcu, bunun şirket tarafından açıklanmadığını ve etik olmayan bir girişim tarzı olduğunu savunuyor.

'Yapay ilerleme' ekonomisi

Olay, teknoloji girişimlerinin “fake it ’til you make it” (yapana kadar taklit et) kültürünü yeniden gündeme getirdi.

Futurism'e konuşan uzmanlara göre startup ekosistemi, gerçek ilerleme yerine ilerleme görüntüsünü ödüllendiriyor; bu da daha fazla “aldatıcı yöntem” için mali teşvik yaratıyor.

Udotong, bugün Fireflies’in not alma sürecinin tamamen otomatikleştirildiğini söylese de, açıklamaları girişimin etik sınırları zorlayarak başarı elde ettiği yorumlarını beraberinde getirdi.

Bazı kullanıcılar hikâyeyi “ilham verici” bulurken, pek çok kişi bunun tehlikeli bir örnek yarattığını düşünmeye devam ediyor.

'Mechanical Turk' örneğinden günümüze

İnsanların makineleri taklit ettiği olayların tarihi aslında epey eskiye dayanıyor.

1770’te Wolfgang von Kempelen tarafından yapılan ve satranç oynayan bir robotmuş gibi görünen ünlü otomat “Mechanical Turk” buna bir örnek.

Dönemin insanlarını büyüleyen bu makine, birçok güçlü oyuncuyu yenmesiyle ün kazanmıştı. Ancak makinenin içindeki gizli bölmede oturan bir insan satranç ustasının, hamleleri görünmeden yönettiği ortaya çıkmıştı. Yani sistem bir aldatmacaydı.

Yakın zamanda Microsoft gibi devlerden yüz milyonlarca dolar yatırım alan Londra merkezli Builder.ai'ın "Natasha" adlı yapay zeka destekli yazılım asistanının arkasında gerçek insanların olduğu ortaya çıkmıştı. Buna göre Hindistan’da çalışan yaklaşık 700 mühendis, müşterilerin taleplerini manuel olarak kodluyordu.