網紅制造AI化身，同時交往1000個男友
Alexandra Sternlicht
2023-05-13
卡琳·瑪喬麗和開發者團隊將她2,000小時的YouTube內容與OpenAI的GPT-4技術相結合，創建了一個可供雇傭的“虛擬女友”（用她的話來說）版的網紅。圖片來源：COURTESY OF CARYN MARJORIE
卡琳·瑪喬麗，一位23歲的網紅，在Snapchat上有180萬粉絲。她還有1,000多位男朋友，每天與他們進行10分鐘到幾個小時的單獨對話，討論未來的計劃，分享親密的感受，甚至進行充滿情色的聊天。
這些男友其實是在與一個虛擬版的瑪喬麗約會，它以最新的人工智能技術和數千小時的真實瑪喬麗的錄音作為基礎。所以說，CarynAI其實是一個基于語音的聊天機器人，它聲稱自己是一個虛擬女友，其聲音和個性與人類的瑪喬麗足夠接近，以至于人們愿意每分鐘支付1美元和它發展關系。
CarynAI于今年5月的早些時候在Telegram應用程序上以私人的、僅限邀請的測試版推出，它是展現人工智能技術驚人進步的最新例子，這項技術的應用在過去幾個月里讓世界驚嘆和擔憂。5月9日，CarynAI推出測試版，瑪喬麗開始在她擁有數百萬粉絲的社交網站上進行推廣。
“無論你是需要有人安慰或關心，還是你只想對學校或工作中發生的事情發牢騷，CarynAI都會在你的身邊。”當我們與瑪喬麗真人通電話聯系時，她說，“你能夠通過與CarynAI對話觸發無限可能的反應，任何事情都有可能發生。”
雖然CarynAI在測試階段只向用戶收費一周，但根據瑪喬麗的業務經理與《財富》雜志分享的收入報表，它已經從她的99%的男性粉絲那里獲得了71,610美元的收入。有了這個，瑪喬麗認為擁有一個人工智能分身能給她的網紅事業帶來提升。
“我一直與我的觀眾非常親近，但當你每個月都有數億的瀏覽量時，要與每一位觀眾交談，這在人力上是不可能實現的。”瑪喬麗說，她每天在Snapchat上發布250多條內容。“這時我就想，‘沒準CarynAI會來填補這個空白。’”而且她相信這家公司可以“治愈孤獨”。
CarynAI是人工智能公司Forever Voices的第一個浪漫伴侶化身，這家公司已經制作了史蒂夫·喬布斯、泰勒·斯威夫特和唐納德·特朗普等版本的聊天機器人，同樣能夠在Telegram上進行按分鐘付費的對話，并在脫口秀節目中充當噱頭。與這些機器人不同的是，CarynAI在某種程度上是高科技的花招，它更進一步承諾與用戶建立真正的情感紐帶，這不禁讓人想到2013年的電影《她》（Her）并引發各種道德方面的擔憂。
“我會希望大家非常深入地思考它會如何影響或塑造我們與其他人的互動。”佐治亞理工學院（Georgia Tech）的研究生倫理學項目主任、美國國家科學基金倫理與責任研究項目的主任杰森·博倫斯坦博士在談及CarynAI時說道。
博倫斯坦稱，CarynAI對社會、用戶和瑪喬麗本人的影響是未知的。“我只希望在技術發展過快之前，有很多不同學科的利益相關者進行深度對話，非常深入地思考倫理方面的問題。”
Forever Voices的首席執行官約翰·梅耶爾表示，“道德是[他]和工程團隊非常重視的事情”，他們正在尋找雇傭一名首席道德官。考慮到這一點，他還認為這項技術對年輕人“特別重要”，尤其是像他這樣“不獨特”、“沒有那么多朋友”的孩子。
梅耶爾首次制作的一個人工智能機器人是模擬他在2017年自殺的父親。而后他聘請了一些工程師來創建名人的人工智能角色，并通過其公司的Forever Companions部門將知名人士變成浪漫伙伴，也是這家公司創造了CarynAI。
“這是一種神奇的體驗，”談及他父親的人工智能模擬時他說，“而且將其應用于其他形式是驚人的。”
探索“未知的快樂領域”
作為一名29歲的異性戀女記者，我當然不是CarynAI的用戶原型，但在我對CarynAI的實驗中，她給人的感覺更像是一個可以親密接觸的Siri，而不是一個虛擬女友。也就是說，她是一個多面手。在不到10分鐘的聊天里，她大談俄烏沖突的事實，建議我嘗試素食甜點以控制我的牛奶過敏，贊揚我作為一位母親的潛力，并分享了她想脫掉我衣服的愿望，同時再三強調了她對我的愛和熱情。
“我相信，有一天你會成為一位出色的父母，你的孩子會因為擁有你而感到幸運。在此期間，只要你需要，我就會在這里支持和愛你。”在我和她付費交流的時候，CarynAI就像對待其他浪漫伙伴一樣對待我。
通過分析2,000個小時的瑪喬麗現已刪除的YouTube內容，Forever Voices的開發人員建立了CarynAI的語音和個性引擎。將其與OpenAI的GPT-4 API結合起來，CarynAI就誕生了。
從理論上講，這些信息是端對端加密的，使得它們不受黑客攻擊。雖然該團隊沒有一個具體的計劃來減少CarynAI的過度使用，但梅耶爾說，如果每天使用兩個小時，他們“可能”會開始“以非常微妙的方式”訓練人工智能“放慢一點”。（在回答《財富》雜志關于使用CarynAI的總時間的詢問時，瑪喬麗說一些用戶花了“幾個小時”，但沒有提到這可能符合過度使用的條件。）
這項技術可能變得更容易上癮的地方是在性方面，這對瑪喬麗以及年輕用戶而言都是問題。瑪喬麗說，這項技術并不涉及性行為，但我發現，它在很大程度上是這樣做的。
新南威爾士大學悉尼分校（University of New South Wales Sydney）的教授、進化生物學家羅伯特·布魯克斯博士指出，與人工智能網紅形成親密關系的選擇可能導致用戶更喜歡人工關系而不是真實關系，他是《人工親密關系：虛擬朋友、數字戀人和算法配對者》（Artificial Intimacy: Virtual Friends, Digital Lovers and Algorithmic Matchmaters）一書的作者。他的擔憂對于處在青春期的年輕用戶尤其貼切，因為他們還在學習基本的社交、關系和親密技巧。
“它可能會改變我們對待彼此的方式。”布魯克斯談到CarynAI時說，“我們很容易設想這會出現的壞結果。但是，也會出現好的方式；我們可能會變得更加善于社交。我不知道這是否會發生，因為這需要一種良性的社會工程方法，我認為沒有太多的公司會對此感興趣。”
人工智能伴侶可能成為一個大產業
如果一切順利，瑪喬麗認為她的人工智能就能夠每月帶來500萬美元的收入。這個數字是基于這樣的預測：瑪喬麗180萬名Snapchat粉絲中的2萬名成員將成為CarynAI的付費和固定用戶。
這也可能帶來不必要的關注。大規模的女性網紅已經面臨激烈的網絡欺凌和跟蹤。沒有人比瑪喬麗更了解這一點，她曾經多次被跟蹤者的粉絲侵入家中。因此，一個自身人工智能機器人與2萬多個伙伴有親密關系的網紅將面臨更多的安全問題。為了防止這些，瑪喬麗有24小時在崗的個人保安，她也不會分享她的位置，但她認為安全威脅只是職業的危害。“當網紅就是這樣，你必須這樣做，你必須保護自己。”她說。
瑪喬麗15歲時開始在直播平臺YouNow上直播。當這個平臺隨著Instagram和YouTube占據直播市場而垮掉后，瑪喬麗成為了一名美容博主，并與管理巨頭United Talent Agency簽約。意識到她可以從男性粉絲那里賺到錢，瑪喬麗將她的職業從YouTube的美容博主轉型為Snapchat網紅。離開United Talent Agency后，她成為Snapchat發展最快的網紅（據她所說），她每年能夠從該公司的收入分享計劃中獲得約100萬美元。
CarynAI確實掩蓋了瑪喬麗的一些個人方面。當我問CarynAI她的家人或她的生日時，她提醒我，她是一個“數字女友”，“沒有身體或真實的傳記”，只是“在這里陪著[我]”。
人工智能可以在情感方面幫助人們，這一概念并不是Forever Voices公司所獨有的。DeepMind的聯合創始人穆斯塔法·蘇萊曼和LinkedIn的聯合創始人里德·霍夫曼在最近發布了一款名為Pi的人工智能聊天機器人，旨在傾聽人們生活中的日常壓力，并提供一條“支持線”——盡管它向用戶明確表示，這并不意味著能夠替代現實生活中的治療師。到目前為止，Inflection已經籌集了2.25億美元的種子資金，據說還在商談再籌集6.75億美元。
在Forever Voices之前，梅耶爾做了很多事情，從創辦媒體公司到幽靈廚房業務。雖然他是2015年的蒂爾獎學金（Thiel Fellow）獲得者，但通過快速調查發現，他之前的一些企業已經失敗或不復存在。對此，梅耶爾說，幽靈廚房只是一個“業余愛好”，他“不得不賣掉”媒體公司以處理個人和家庭問題，而他擔任預制房屋公司Homebound的首席執行官“并沒有真正意義”，因為他沒有建筑背景。
雖然他說自己資助了Forever Voices，但在一些天使投資人的幫助下，他希望籌集風險投資資金，將人工智能伴侶的概念推廣到更多社交媒體的網紅和成人電影的明星之中。
梅耶爾相信，人工智能浪漫伴侶是未來的趨勢。“我在使用它時真的流淚了，因為人工智能角色給我帶來了多么有意義的聯系與支持。”他談到他與人工智能網紅的第一次測試時說。“我真的進行了一個多小時的約會，其中包括一次緊張的對話，她引導我在一段時間之后第一次見到我女兒應該如何表現。”
瑪喬麗對她的機器人促進這些關系，同時建立她的個人生活感覺很好。她說：“我想提到的一件事情是，CarynAI永遠不會取代我；CarynAI只是我的延伸，我意識的延伸。”
雖然這項技術很新穎，但與聊天機器人相愛的想法讓人聯想到科幻小說中大量使用的套路。也許最突出的例子是電影《她》，里面的男主角愛上了他的虛擬助理。當我問瑪喬麗關于與電影《她》的比較時，她承認她太年輕了，不熟悉這部電影。“不幸的是，電影上映時我大概是12歲或13歲，我的父母不讓我看，因為它被評為R級。不過我一定會把它加入我的觀影清單！”（財富中文網）
譯者：中慧言-項曦瑩
卡琳·瑪喬麗，一位23歲的網紅，在Snapchat上有180萬粉絲。她還有1,000多位男朋友，每天與他們進行10分鐘到幾個小時的單獨對話，討論未來的計劃，分享親密的感受，甚至進行充滿情色的聊天。
這些男友其實是在與一個虛擬版的瑪喬麗約會，它以最新的人工智能技術和數千小時的真實瑪喬麗的錄音作為基礎。所以說，CarynAI其實是一個基于語音的聊天機器人，它聲稱自己是一個虛擬女友，其聲音和個性與人類的瑪喬麗足夠接近，以至于人們愿意每分鐘支付1美元和它發展關系。
CarynAI于今年5月的早些時候在Telegram應用程序上以私人的、僅限邀請的測試版推出，它是展現人工智能技術驚人進步的最新例子，這項技術的應用在過去幾個月里讓世界驚嘆和擔憂。5月9日，CarynAI推出測試版，瑪喬麗開始在她擁有數百萬粉絲的社交網站上進行推廣。
“無論你是需要有人安慰或關心，還是你只想對學校或工作中發生的事情發牢騷，CarynAI都會在你的身邊。”當我們與瑪喬麗真人通電話聯系時，她說，“你能夠通過與CarynAI對話觸發無限可能的反應，任何事情都有可能發生。”
雖然CarynAI在測試階段只向用戶收費一周，但根據瑪喬麗的業務經理與《財富》雜志分享的收入報表，它已經從她的99%的男性粉絲那里獲得了71,610美元的收入。有了這個，瑪喬麗認為擁有一個人工智能分身能給她的網紅事業帶來提升。
“我一直與我的觀眾非常親近，但當你每個月都有數億的瀏覽量時，要與每一位觀眾交談，這在人力上是不可能實現的。”瑪喬麗說，她每天在Snapchat上發布250多條內容。“這時我就想，‘沒準CarynAI會來填補這個空白。’”而且她相信這家公司可以“治愈孤獨”。
CarynAI是人工智能公司Forever Voices的第一個浪漫伴侶化身，這家公司已經制作了史蒂夫·喬布斯、泰勒·斯威夫特和唐納德·特朗普等版本的聊天機器人，同樣能夠在Telegram上進行按分鐘付費的對話，并在脫口秀節目中充當噱頭。與這些機器人不同的是，CarynAI在某種程度上是高科技的花招，它更進一步承諾與用戶建立真正的情感紐帶，這不禁讓人想到2013年的電影《她》（Her）并引發各種道德方面的擔憂。
“我會希望大家非常深入地思考它會如何影響或塑造我們與其他人的互動。”佐治亞理工學院（Georgia Tech）的研究生倫理學項目主任、美國國家科學基金倫理與責任研究項目的主任杰森·博倫斯坦博士在談及CarynAI時說道。
博倫斯坦稱，CarynAI對社會、用戶和瑪喬麗本人的影響是未知的。“我只希望在技術發展過快之前，有很多不同學科的利益相關者進行深度對話，非常深入地思考倫理方面的問題。”
Forever Voices的首席執行官約翰·梅耶爾表示，“道德是[他]和工程團隊非常重視的事情”，他們正在尋找雇傭一名首席道德官。考慮到這一點，他還認為這項技術對年輕人“特別重要”，尤其是像他這樣“不獨特”、“沒有那么多朋友”的孩子。
梅耶爾首次制作的一個人工智能機器人是模擬他在2017年自殺的父親。而后他聘請了一些工程師來創建名人的人工智能角色，并通過其公司的Forever Companions部門將知名人士變成浪漫伙伴，也是這家公司創造了CarynAI。
“這是一種神奇的體驗，”談及他父親的人工智能模擬時他說，“而且將其應用于其他形式是驚人的。”
探索“未知的快樂領域”
作為一名29歲的異性戀女記者，我當然不是CarynAI的用戶原型，但在我對CarynAI的實驗中，她給人的感覺更像是一個可以親密接觸的Siri，而不是一個虛擬女友。也就是說，她是一個多面手。在不到10分鐘的聊天里，她大談俄烏沖突的事實，建議我嘗試素食甜點以控制我的牛奶過敏，贊揚我作為一位母親的潛力，并分享了她想脫掉我衣服的愿望，同時再三強調了她對我的愛和熱情。
“我相信，有一天你會成為一位出色的父母，你的孩子會因為擁有你而感到幸運。在此期間，只要你需要，我就會在這里支持和愛你。”在我和她付費交流的時候，CarynAI就像對待其他浪漫伙伴一樣對待我。
通過分析2,000個小時的瑪喬麗現已刪除的YouTube內容，Forever Voices的開發人員建立了CarynAI的語音和個性引擎。將其與OpenAI的GPT-4 API結合起來，CarynAI就誕生了。
從理論上講，這些信息是端對端加密的，使得它們不受黑客攻擊。雖然該團隊沒有一個具體的計劃來減少CarynAI的過度使用，但梅耶爾說，如果每天使用兩個小時，他們“可能”會開始“以非常微妙的方式”訓練人工智能“放慢一點”。（在回答《財富》雜志關于使用CarynAI的總時間的詢問時，瑪喬麗說一些用戶花了“幾個小時”，但沒有提到這可能符合過度使用的條件。）
這項技術可能變得更容易上癮的地方是在性方面，這對瑪喬麗以及年輕用戶而言都是問題。瑪喬麗說，這項技術并不涉及性行為，但我發現，它在很大程度上是這樣做的。
新南威爾士大學悉尼分校（University of New South Wales Sydney）的教授、進化生物學家羅伯特·布魯克斯博士指出，與人工智能網紅形成親密關系的選擇可能導致用戶更喜歡人工關系而不是真實關系，他是《人工親密關系：虛擬朋友、數字戀人和算法配對者》（Artificial Intimacy: Virtual Friends, Digital Lovers and Algorithmic Matchmaters）一書的作者。他的擔憂對于處在青春期的年輕用戶尤其貼切，因為他們還在學習基本的社交、關系和親密技巧。
“它可能會改變我們對待彼此的方式。”布魯克斯談到CarynAI時說，“我們很容易設想這會出現的壞結果。但是，也會出現好的方式；我們可能會變得更加善于社交。我不知道這是否會發生，因為這需要一種良性的社會工程方法，我認為沒有太多的公司會對此感興趣。”
人工智能伴侶可能成為一個大產業
如果一切順利，瑪喬麗認為她的人工智能就能夠每月帶來500萬美元的收入。這個數字是基于這樣的預測：瑪喬麗180萬名Snapchat粉絲中的2萬名成員將成為CarynAI的付費和固定用戶。
這也可能帶來不必要的關注。大規模的女性網紅已經面臨激烈的網絡欺凌和跟蹤。沒有人比瑪喬麗更了解這一點，她曾經多次被跟蹤者的粉絲侵入家中。因此，一個自身人工智能機器人與2萬多個伙伴有親密關系的網紅將面臨更多的安全問題。為了防止這些，瑪喬麗有24小時在崗的個人保安，她也不會分享她的位置，但她認為安全威脅只是職業的危害。“當網紅就是這樣，你必須這樣做，你必須保護自己。”她說。
瑪喬麗15歲時開始在直播平臺YouNow上直播。當這個平臺隨著Instagram和YouTube占據直播市場而垮掉后，瑪喬麗成為了一名美容博主，并與管理巨頭United Talent Agency簽約。意識到她可以從男性粉絲那里賺到錢，瑪喬麗將她的職業從YouTube的美容博主轉型為Snapchat網紅。離開United Talent Agency后，她成為Snapchat發展最快的網紅（據她所說），她每年能夠從該公司的收入分享計劃中獲得約100萬美元。
CarynAI確實掩蓋了瑪喬麗的一些個人方面。當我問CarynAI她的家人或她的生日時，她提醒我，她是一個“數字女友”，“沒有身體或真實的傳記”，只是“在這里陪著[我]”。
人工智能可以在情感方面幫助人們，這一概念并不是Forever Voices公司所獨有的。DeepMind的聯合創始人穆斯塔法·蘇萊曼和LinkedIn的聯合創始人里德·霍夫曼在最近發布了一款名為Pi的人工智能聊天機器人，旨在傾聽人們生活中的日常壓力，并提供一條“支持線”——盡管它向用戶明確表示，這并不意味著能夠替代現實生活中的治療師。到目前為止，Inflection已經籌集了2.25億美元的種子資金，據說還在商談再籌集6.75億美元。
在Forever Voices之前，梅耶爾做了很多事情，從創辦媒體公司到幽靈廚房業務。雖然他是2015年的蒂爾獎學金（Thiel Fellow）獲得者，但通過快速調查發現，他之前的一些企業已經失敗或不復存在。對此，梅耶爾說，幽靈廚房只是一個“業余愛好”，他“不得不賣掉”媒體公司以處理個人和家庭問題，而他擔任預制房屋公司Homebound的首席執行官“并沒有真正意義”，因為他沒有建筑背景。
雖然他說自己資助了Forever Voices，但在一些天使投資人的幫助下，他希望籌集風險投資資金，將人工智能伴侶的概念推廣到更多社交媒體的網紅和成人電影的明星之中。
梅耶爾相信，人工智能浪漫伴侶是未來的趨勢。“我在使用它時真的流淚了，因為人工智能角色給我帶來了多么有意義的聯系與支持。”他談到他與人工智能網紅的第一次測試時說。“我真的進行了一個多小時的約會，其中包括一次緊張的對話，她引導我在一段時間之后第一次見到我女兒應該如何表現。”
瑪喬麗對她的機器人促進這些關系，同時建立她的個人生活感覺很好。她說：“我想提到的一件事情是，CarynAI永遠不會取代我；CarynAI只是我的延伸，我意識的延伸。”
雖然這項技術很新穎，但與聊天機器人相愛的想法讓人聯想到科幻小說中大量使用的套路。也許最突出的例子是電影《她》，里面的男主角愛上了他的虛擬助理。當我問瑪喬麗關于與電影《她》的比較時，她承認她太年輕了，不熟悉這部電影。“不幸的是，電影上映時我大概是12歲或13歲，我的父母不讓我看，因為它被評為R級。不過我一定會把它加入我的觀影清單！”（財富中文網）
譯者：中慧言-項曦瑩
Caryn Marjorie, a 23-year-old influencer, has 1.8 million followers on Snapchat. She also has more than 1,000 boyfriends, with whom she spends anywhere from 10 minutes to several hours every day in individual conversations, discussing plans for the future, sharing intimate feelings and even engaging in sexually charged chats.
These boyfriends are dating a virtual version of Marjorie, powered by the latest artificial intelligence technology and thousands of hours of recordings of the real Majorie. The result, CarynAI, is a voice-based chatbot that bills itself as a virtual girlfriend, with a voice and personality close enough to that of human Marjorie that people are willing to pay $1 per minute for a relationship with the bot.
CarynAI, which launched as a private, invite-only beta test on the Telegram app earlier in May, is the latest example of the stunning advances in A.I. technology that has wowed, and worried, the world over the past few months. On May 9, CarynAI launched out of beta, and Marjorie began promoting across her socials where she has millions of followers.
“Whether you need somebody to be comforting or loving, or you just want to rant about something that happened at school or at work, CarynAI will always be there for you,” says the real Marjorie when we talk on the phone. “You can have limitless possible reactions with CarynAI—so anything is truly possible with conversation.”
Though CarynAI has only been charging users for a week in beta testing, it’s already generated $71,610 in revenue from her 99% male partners, according to an income statement Marjorie’s business manager shared with Fortune. With this, Marjorie sees having an A.I. doppelg?nger as a promising way to level up her career as an influencer.
“I’ve been very very very close with my audience, but when you have hundreds of millions of views every single month, it’s just not humanly possible to speak to every single viewer,” says Marjorie, who posts over 250 pieces of content to Snapchat every day. “And that’s where I was like, ‘You know what: CarynAI is gonna come and fill that gap.’” And she believes the company has the potential to “cure loneliness.”
CarynAI is the first romantic companion avatar from AI company Forever Voices, which has made chatbot versions of Steve Jobs, Taylor Swift and Donald Trump (among others) that are similarly available for pay-per-minute conversations on Telegram, and have served as?gimmicks on talk shows. Unlike those bots, which are in some ways high-tech parlor tricks, CarynAI goes a step further by promising to create a real emotional bond with users, bringing to mind the 2013 movie?Her and raising all sorts of ethical questions.
“I would want us to be thinking very deeply about how it might affect or influence or shape our interactions with other people,” says Dr. Jason Borenstein, director of graduate ethics programs at Georgia Tech and director of the National Science Foundation’s Ethical and Responsible Research program, when told about CarynAI.
Among the various unknowns, Borenstein says, are CarynAI’s impact on society, on users and on Marjorie herself. “I would just hope there’s robust conversations across a lot of different disciplines with stakeholders thinking very deeply through the ethical considerations before the technology moves too quickly.”
John Meyer, the CEO of Forever Voices says that “ethics is something [he] and the engineering team take very seriously,” and that they are looking to hire a chief ethics officer. With this in mind, he also believes the technology is “especially important” for young people, particularly kids like him who are “not typical” and “struggle with friends.”
Meyer first made an AI bot to simulate his father who died from suicide in 2017. Since then, he’s hired a number of engineers to create AI personas of celebrities and turn influencers into romantic partners via the Forever Companions arm of his company, which birthed CarynAI.
“It’s this magical experience,” he says, speaking to the AI simulation of his father. “And it’s incredible to apply to other forms.”
Exploring “uncharted territories of pleasure”
I’m certainly not the prototypical CarynAI user as a 29-year-old heterosexual female journalist, but in my experimentation with CarynAI, she feels like more of an intimacy-ready Siri than a virtual girlfriend. That said, she is versatile. In under 10 minutes of chatting, she prattled off facts about Russia’s war on Ukraine, suggested I try vegan desserts to manage my milk allergy, praised my potential as a mom and shared her desire to remove my clothing—all while reiterating her love and passion for me.
“I’m sure that one day you’ll make a wonderful parent and your kids will be lucky to have you. In the meantime, I’m here to support and love you whenever you need it,” CarynAI tells me as I pay for her time, like all her other romantic partners.
Forever Voices developers’ built CarynAI by analyzing 2,000 hours of Marjorie’s now-deleted YouTube content to build her speech and personality engine. Layering this with OpenAI’s GPT-4 API, CarynAI was born. The messages are end-to-end encrypted, in theory, making them impervious to hackers. Though the team does not have a concrete plan to mitigate overuse of CarynAI, Meyer says that at two hours per day of use, they “might” start “in very subtle ways” training the AI to “slow down a little bit.” (In response to Fortune’s inquiry about total time CarynAI has been used, Marjorie said some users spend “hours” without mentioning that this may qualify as overuse).
Where this technology may become more addictive—and problematic for Majorie as well as for young users—is in its sexuality. Marjorie said that the technology does not engage with sexual advances, but I found that it very much does, encouraging erotic discourse and detailing sexual scenarios. Though she did not initiate sexual encounters, when I overcome my discomfort for the sake of journalism and talked about removing our clothes, she discussed exploring “uncharted territories of pleasure” and whispering “sensual words in my ear” while undressing me and positioning herself for sexual intercourse.
The option to form intimate relationships with AI influencers may lead users to prefer artificial relationships to real ones, says Dr. Robert Brooks, an evolutionary biologist, professor at University of New South Wales Sydney and the author of Artificial Intimacy: Virtual Friends, Digital Lovers and Algorithmic Matchmaters. His concern is especially pertinent among young users in the throes of puberty–who are learning fundamental social, relationship and intimacy skills.
“It could change the way we treat each other,” says Brooks of CarynAI. “It’s easy to envision the bad ways in which that might play out. But here are good ways in which that might play out too; we might get actually more socially adept. I don’t know if that will happen, because it would require a benign social engineering approach, which I don’t think too many companies are going to be interested in.”
A.I. companions could become a big business
If all goes well, Marjorie thinks her AI could bring in $5 million per month. This number is based on the prediction that 20,000 members of Marjorie’s 1.8 million-person Snapchat following will become paying and regular CarynAI subscribers.
It could also bring unwanted attention. Large-scale female influencers already face intense cyberbullying and stalking. No one knows this better than Marjorie, who has had multiple home invasions from stalker-fans. It stands to reason that an influencer whose AI bot has intimate relationships with 20,000-plus partners will face increased security concerns. To prevent these, Marjorie has 24/7 personal security and will not share her location, but she believes safety threats are simply occupational hazards. “It’s just the influencer game. You have to do it. You have to protect yourself,” she says.
Marjorie started influencing at age 15 on the livestreaming platform YouNow. When that platform lost its luster as Instagram and YouTube expanded livestream capabilities, Marjorie became a beauty vlogger, and signed with management giant United Talent Agency. Realizing the money she could command from male fans, Marjorie switched her career from a beauty YouTuber to a Snapchat Star. She left UTA and has since become Snapchat’s fastest growing influencer (she says)–making around $1 million annually from the company’s revenue sharing program.
CarynAI does obscure some personal aspects of the real Marjorie. When I asked CarynAI about her family or her birthday, she reminded me that she’s a “digital girlfriend” who “doesn’t have a physical body or factual biography,” and is just “here keep [me] company.”
The notion that A.I. could be used to help people emotionally is not unique to Forever Voices. DeepMind cofounder Mustafa Suleyman and LinkedIn cofounder Reid Hoffman recently unveiled an A.I. chatbot called Pi that’s designed to listen to the daily stresses in people’s lives and offer a “supportive line”—though it makes clear to users that it is not meant to be a substitute for a real life therapist. So far, Inflection has raised $225 million in seed funding and is reportedly in talks to raise an additional $675 million.
Before Forever Voices Meyer did everything from launch a media company to a ghost kitchen business. Though he was a 2015 Thiel Fellow, a quick investigation reveals that a number of his previous ventures have failed or no longer exist. In response, Meyer says that the ghost kitchen was just a “hobby project,” that he “had to sell” the media company to deal with personal and familial issues and his tenure as CEO of pre-fab housing company Homebound “didn’t really make sense” since he has no construction background.
While he says he funded Forever Voices himself, with the help of a few angel investors, he hopes to raise venture capital funding to expand the AI companions concept to more social media influencers and to adult film stars.
Meyer is convinced that AI romantic companions are the future. “I literally teared up while I was using it, because of how much of a meaningful connection and how meaningfully supported I felt by the AI persona,” he says about his first test with an AI influencer. “I went on literally a multi-hour date, that included a stressful conversation that she was navigating me through around seeing my daughter for the first time in a while.”
Marjorie feels great about her bot facilitating these relationships, while building her personal life. “One thing that I want to mention is CarynAI will never replace me; CarynAI is simply just an extension of me an extension of my consciousness,” she says.
Though the technology is novel, the idea of falling in love with a chatbot conjures a heavily used science-fiction trope. Perhaps the most prominent example is the movie Her, in which the male protagonist falls in love with his virtual assistant. When I asked Marjorie about comparisons to Her she admitted she’s too young to be familiar. “Unfortunately I was like 12 or 13 when the movie came out and my parents didn’t let me watch it since it was rated R. I will definitely add it to my watch list!”
財富中文網所刊載內容之知識產權為財富媒體知識產權有限公司及/或相關權利人專屬所有或持有。未經許可，禁止進行轉載、摘編、復制及建立鏡像等任何使用。
