人類正在開發機器伴侶，你能接受嗎？
YANA ZALESSKAYA
2021-12-15
一些公司，比如總部位于加州的Replika，正在研發人工智能伙伴，以滿足人們獲得陪伴的需要。圖片來源：OLIVIER DOULIERY——蓋蒂圖片社
現如今，人們似乎非常介意，人工智能（AI）會帶來風險，但卻沒有意識到，它已經深深地融入了日常生活中。
2017年，機器人索菲婭獲得了沙特的公民身份。類人機器人能取得如此的社會地位，人們不由得感到驚訝。上個月，Facebook改名為Meta，又引發了不安。在不斷擴張的元宇宙中，人們開始擔心自己的未來，畢竟在其中，人類只是區區網絡化身而已。
然而，從網絡客服機器人到交友軟件Hinge上的推薦匹配，人工智能的應用已深植于社會生活之中，無聲無息卻根深蒂固。
新興技術對人類的功能運作、社交能力和互動能力都產生了一定的影響，對人工智能的懷疑情緒也由此而生。很多人懷疑，人們是否會把更多的時間花在與虛擬人物的互動上面，而忽視了現實？社交手段會發生何種變化？如何與現實中的他人交流溝通、保持聯系？
撇開這些問題不談，人工智能確實能夠讓人變得更強。它可以優化人們的體驗，提升個人能力，幫助人們逐漸養成好習慣，讓人們變得更健康，甚至更快樂。然而，要使人工智能成為人類之友，而非致命之敵，設計和應用必須思慮周全。
目前，人工智能技術研發應用已到了關鍵時刻。技術研發領域、內容和方式都將決定人類的命運。對新興技術的有效利用將會徹底改變人類共同的未來，并提高人類的發展潛能。人工智能的前景在于它能夠通過分析海量數據，讓人們做出更明智、更有效的決策，這一點是前所未有的。
AI作為獨立人格而存在
至今為止，大部分新興技術的應用，都并非肉眼直接可見。但隨著它們逐漸融入人類社會日常生活，執行的任務越來越復雜、越來越社會化，一個挑戰浮出水面：如何讓人機互動更人性化、更順暢、更具有吸引力。
許多公司已開始應對這項挑戰。以Replika的人工智能伙伴為例，它既是一位密友，也是一位傾聽者。為滿足人們與已故親友進行對話的需求，Replika開發了這款人工智能伙伴，想讓人們可以永久回味友誼，聊以慰藉。該公司又開發了新的擴展功能，人工智能伙伴可以和用戶進行積極的對話，滿足用戶表達自我、溝通交流的需要。
美國一家初創公司UneeQ的人工智能顧問服務，可以識別情感暗示，具有同理心。因而，其互動更人性化，客戶體驗得到了優化。在虛擬伴侶平臺Hybri上，用戶甚至可以模仿真人的外貌，根據自己內心愿望和幻想創建一個人工智能伴侶。
人工智能的萬般神通還不止于此。
讓我們想象一下未來：人們可以選擇從出生就配備一個人工智能伙伴，從學校成績到社交活動帶來的情緒變化，它熟知你的一切。它能鏈接到你的日記、醫療數據、智能家居、社交媒體，像你了解自己一樣了解你。它甚至是一名合格的教練，幫助你克服消極思維模式，改掉壞習慣。它可以指導你，溫柔地鼓勵你克服種種阻礙，逐步實現自己的目標。
當你站在人生的十字路口，需要做出選擇的時候，你的人工智能伙伴就會根據它收集的數據，給出一個預測算法，看你的人生軌跡在不同的選擇下會有什么樣的走向。比如，無論你選擇政治學專業還是經濟學專業，選擇學工程還是學編程，你都能知道，不同選擇下的未來分別是什么樣的。所以說，新興技術能讓你做出最明智的決定，助你成就最好的自己。
對一些人來說，這似乎是一種技術入侵，侵犯了人們作為獨立個體進行獨立選擇的能力。但新一代的“數字原住民”非常喜歡這些新技術。根據畢馬威（KPMG）研究顯示，Z世代和千禧一代的年輕人對人工智能的信任程度幾乎是1946年到 1964年間出生的“嬰兒潮”那代人的兩倍。人工智能從一出生就深深地融入年輕人們的日常生活，它可以成為世上的另一個自己，伴隨他們共同踏上人生旅程，甚至讓他們能夠預見未來。
情感人工智能的研發也取得了重大進展，它具有同理心，并對人類真實的情感需求做出反應，使人與技術的互動更加順暢、更加真實。作為人工智能的一個分支，它能夠結合生物特征和生理數據來感知、理解和回應人類的真情實感。
設想一種情況：在某個國家，護工人手不足，無法全天候護理老人。世界人口已經老齡化，再加上新冠疫情的爆發，這種情況并非難以想象。因此，情感人工智能也許可以作為一種有效措施，去降低老年人的孤獨感、消除所有與社會脫節造成的疏離感。
作為擁有獨立人格的一種存在，人工智能在我們的職業生活中也有著巨大的發展潛力。隨著其技術創新的不斷深化，人工智能將成為一位富有創造性的伙伴，為我們開啟全新的未來。它可以參加會議，在頭腦風暴中提出至關重要的新想法；可以在面試技巧方面提供建議；也可以對員工進行指導。想象一下，如果每個人都配備一個人工智能同事或導師，幫助梳理篩選出最好的想法和創意，將是多么事半功倍。隨著人工智能的發展，以上種種都可能在未來成為常態。
轉折點
當然，要構建這幅人工智能的未來圖景，也面臨著一些挑戰。人工智能要想取得真正的成功，產品設計必須負起責任，而且隱私和倫理方面的難題也必須得到解決。必須樹立行業架構，健全立法，從而保障安全。品牌必須知道，消費者的信任是非常重要的，并且，品牌在新創建人工智能系統時，必須絕對依靠正確道德判斷的指引。
從社會層面上看，人工智能由人類創造，在歷史數據的基礎上得到發展，因而現實世界中存在的歧視和偏見，也同樣會出現在人工智能世界中。如果對信息的獲取有差別，或者對新技術的參與度不同，那么這種歧視就可能會惡化。為了確保未來的人工智能一直與人為善，必須進行用戶測試，確保樣本用戶來自不同群體，從而克服固有的偏見。幾十年來，先進技術的用戶標準一直是白人優先、男性優先、身體無殘疾優先，這種優先級人群和其他人群之間的數據鴻溝必須被填平。
根據斯坦福大學對人工智能的百年研究，這項技術的發展正處于一個轉折點，前景和風險都正在逐步顯現出來。人工智能技術未來確實有潛在的風險，比如加劇社會不平等、侵犯隱私、為大公司服務，甚至帶有剝削性。
智能技術可以增強人類的能力，為未來提供新選擇；人工智能可以幫助撫養子女，處理損失，在人們情緒低落的時候加油鼓勁。創新研發者、設計師和企業完全可以放開手腳，去盡情構思人類的理想未來。（財富中文網）
本文作者Yana Zalesskaya是一名設計研究員，供職于Design Partners。
現如今，人們似乎非常介意，人工智能（AI）會帶來風險，但卻沒有意識到，它已經深深地融入了日常生活中。
2017年，機器人索菲婭獲得了沙特的公民身份。類人機器人能取得如此的社會地位，人們不由得感到驚訝。上個月，Facebook改名為Meta，又引發了不安。在不斷擴張的元宇宙中，人們開始擔心自己的未來，畢竟在其中，人類只是區區網絡化身而已。
然而，從網絡客服機器人到交友軟件Hinge上的推薦匹配，人工智能的應用已深植于社會生活之中，無聲無息卻根深蒂固。
新興技術對人類的功能運作、社交能力和互動能力都產生了一定的影響，對人工智能的懷疑情緒也由此而生。很多人懷疑，人們是否會把更多的時間花在與虛擬人物的互動上面，而忽視了現實？社交手段會發生何種變化？如何與現實中的他人交流溝通、保持聯系？
撇開這些問題不談，人工智能確實能夠讓人變得更強。它可以優化人們的體驗，提升個人能力，幫助人們逐漸養成好習慣，讓人們變得更健康，甚至更快樂。然而，要使人工智能成為人類之友，而非致命之敵，設計和應用必須思慮周全。
目前，人工智能技術研發應用已到了關鍵時刻。技術研發領域、內容和方式都將決定人類的命運。對新興技術的有效利用將會徹底改變人類共同的未來，并提高人類的發展潛能。人工智能的前景在于它能夠通過分析海量數據，讓人們做出更明智、更有效的決策，這一點是前所未有的。
AI作為獨立人格而存在
至今為止，大部分新興技術的應用，都并非肉眼直接可見。但隨著它們逐漸融入人類社會日常生活，執行的任務越來越復雜、越來越社會化，一個挑戰浮出水面：如何讓人機互動更人性化、更順暢、更具有吸引力。
許多公司已開始應對這項挑戰。以Replika的人工智能伙伴為例，它既是一位密友，也是一位傾聽者。為滿足人們與已故親友進行對話的需求，Replika開發了這款人工智能伙伴，想讓人們可以永久回味友誼，聊以慰藉。該公司又開發了新的擴展功能，人工智能伙伴可以和用戶進行積極的對話，滿足用戶表達自我、溝通交流的需要。
美國一家初創公司UneeQ的人工智能顧問服務，可以識別情感暗示，具有同理心。因而，其互動更人性化，客戶體驗得到了優化。在虛擬伴侶平臺Hybri上，用戶甚至可以模仿真人的外貌，根據自己內心愿望和幻想創建一個人工智能伴侶。
人工智能的萬般神通還不止于此。
讓我們想象一下未來：人們可以選擇從出生就配備一個人工智能伙伴，從學校成績到社交活動帶來的情緒變化，它熟知你的一切。它能鏈接到你的日記、醫療數據、智能家居、社交媒體，像你了解自己一樣了解你。它甚至是一名合格的教練，幫助你克服消極思維模式，改掉壞習慣。它可以指導你，溫柔地鼓勵你克服種種阻礙，逐步實現自己的目標。
當你站在人生的十字路口，需要做出選擇的時候，你的人工智能伙伴就會根據它收集的數據，給出一個預測算法，看你的人生軌跡在不同的選擇下會有什么樣的走向。比如，無論你選擇政治學專業還是經濟學專業，選擇學工程還是學編程，你都能知道，不同選擇下的未來分別是什么樣的。所以說，新興技術能讓你做出最明智的決定，助你成就最好的自己。
對一些人來說，這似乎是一種技術入侵，侵犯了人們作為獨立個體進行獨立選擇的能力。但新一代的“數字原住民”非常喜歡這些新技術。根據畢馬威（KPMG）研究顯示，Z世代和千禧一代的年輕人對人工智能的信任程度幾乎是1946年到 1964年間出生的“嬰兒潮”那代人的兩倍。人工智能從一出生就深深地融入年輕人們的日常生活，它可以成為世上的另一個自己，伴隨他們共同踏上人生旅程，甚至讓他們能夠預見未來。
情感人工智能的研發也取得了重大進展，它具有同理心，并對人類真實的情感需求做出反應，使人與技術的互動更加順暢、更加真實。作為人工智能的一個分支，它能夠結合生物特征和生理數據來感知、理解和回應人類的真情實感。
設想一種情況：在某個國家，護工人手不足，無法全天候護理老人。世界人口已經老齡化，再加上新冠疫情的爆發，這種情況并非難以想象。因此，情感人工智能也許可以作為一種有效措施，去降低老年人的孤獨感、消除所有與社會脫節造成的疏離感。
作為擁有獨立人格的一種存在，人工智能在我們的職業生活中也有著巨大的發展潛力。隨著其技術創新的不斷深化，人工智能將成為一位富有創造性的伙伴，為我們開啟全新的未來。它可以參加會議，在頭腦風暴中提出至關重要的新想法；可以在面試技巧方面提供建議；也可以對員工進行指導。想象一下，如果每個人都配備一個人工智能同事或導師，幫助梳理篩選出最好的想法和創意，將是多么事半功倍。隨著人工智能的發展，以上種種都可能在未來成為常態。
轉折點
當然，要構建這幅人工智能的未來圖景，也面臨著一些挑戰。人工智能要想取得真正的成功，產品設計必須負起責任，而且隱私和倫理方面的難題也必須得到解決。必須樹立行業架構，健全立法，從而保障安全。品牌必須知道，消費者的信任是非常重要的，并且，品牌在新創建人工智能系統時，必須絕對依靠正確道德判斷的指引。
從社會層面上看，人工智能由人類創造，在歷史數據的基礎上得到發展，因而現實世界中存在的歧視和偏見，也同樣會出現在人工智能世界中。如果對信息的獲取有差別，或者對新技術的參與度不同，那么這種歧視就可能會惡化。為了確保未來的人工智能一直與人為善，必須進行用戶測試，確保樣本用戶來自不同群體，從而克服固有的偏見。幾十年來，先進技術的用戶標準一直是白人優先、男性優先、身體無殘疾優先，這種優先級人群和其他人群之間的數據鴻溝必須被填平。
根據斯坦福大學對人工智能的百年研究，這項技術的發展正處于一個轉折點，前景和風險都正在逐步顯現出來。人工智能技術未來確實有潛在的風險，比如加劇社會不平等、侵犯隱私、為大公司服務，甚至帶有剝削性。
智能技術可以增強人類的能力，為未來提供新選擇；人工智能可以幫助撫養子女，處理損失，在人們情緒低落的時候加油鼓勁。創新研發者、設計師和企業完全可以放開手腳，去盡情構思人類的理想未來。（財富中文網）
本文作者Yana Zalesskaya是一名設計研究員，供職于Design Partners。
People seem to be concerned about the hazards of artificial intelligence without realizing just how far it is already integrated into our everyday lives.
When Sophia the robot was granted Saudi citizenship in 2017, eyebrows were raised over humanoids’ position in society. Facebook’s rebrand just last month sparked unease about our potential future as avatars in the developing metaverse.
However, this innovative technology is currently playing a deeply embedded—but largely invisible—role in our social existence, from customer service chatbots to suggested matches on Hinge.
A.I. skepticism is often tied to the impact emerging technologies will have on our ability to function, socialize, and interact as human beings. Are we going to spend more time engaging with virtual beings than real people? What will happen to our communication skills, and how we engage and connect with each other?
Valid questions aside, the truth is that A.I. has the power to enhance, not diminish, human potential. It can transform our experiences for the better, optimize our capabilities, and help us instill habits to become healthier and potentially even happier. It can be our friend, not our worst enemy—but only when it is designed and delivered thoughtfully.
We are at a critical juncture in the role of A.I. Where, what, and how we design now will define our experiences of the future. If designed effectively, emerging technologies have the power to revolutionize our collective future and augment our potential. A.I.’s promise lies in its ability to make unprecedented analyses of vast amounts of data and empower us to make more informed and efficient decisions.
A. I. as a personality
Until recently, these emerging technologies have been mostly invisible. But as they become more integrated into our day-to-day lives, performing more complex and socially driven tasks, the challenge is to humanize our interactions with A.I. systems so that they become seamless and engaging.
Many companies are already working towards this. Take Replika’s A.I. companion that acts as a personal confidant and sounding board. Inspired by the desire to replicate a conversation with a deceased friend, and to retain the comfort of that friendship, the companion has now expanded to empower users to express themselves through helpful conversations.
UneeQ’s A.I. adviser service, driven by emotional cues and empathy, is revolutionizing customer experiences through more humanized interactions. Hybri, the virtual companion platform, enables users to create models in line with their desires and fantasies, or even mimic the appearance of real people.
But this can go so much further.
Imagine a future where people elect to have an A.I. companion whose relationship with you begins at birth, reading everything from your grades at school to analyzing your emotions after social interactions. Connecting your diary, your medical data, your smart home, and your social media platforms, the companion can know you as well as you know yourself. It can even become a skilled coach helping you to overcome your negative thinking patterns or bad habits. It can provide guidance and gently nudge you towards what you want to accomplish, encouraging you to overcome what’s holding you back.
Drawing on data gathered across your lifetime, a predictive algorithm could activate when you reach a crossroads. Your life trajectory, if you choose to study politics over economics, or start a career in engineering over coding, could be mapped before your eyes. By illustrating your potential futures, these emerging technologies could empower you to make the most informed decisions and help you be the best version of yourself.
For some, this may seem like a tech invasion, an infringement of our capabilities as independent beings. But a new generation of digital natives is welcoming these new technologies, with studies from KPMG revealing that Gen Z and millennials are almost twice as trusting of A.I. than their boomer counterparts. By deeply integrating A.I. into our everyday lives from birth, it can become a second self who can take us on a journey and even give us a glimpse into our future.
Significant headway is also being made in the development of emotive A.I. that has empathy and provides emotional responses to real human needs, making our interactions with this technology far more seamless and authentic. This branch of A.I. combines biometric and physiological data to sense, understand, and respond to real feelings.
Envision a country where there are not enough workers available to provide real-time care for the elderly. After the pandemic, it’s not hard to imagine, especially with an aging world population. Emotive A.I. could be a powerful tool in combating loneliness in the elderly or any other forms of social isolation for that matter.
A.I. as a personality also has powerful potential in our professional lives. As this innovation becomes more advanced, an entire future is unlocked in which A.I. can become our creative companion. A critical partner conceiving great new ideas in a brainstorming session, advising us on interviewing skills, or helping to mentor staff members. Imagine how our productivity and time could be optimized if we each had an A.I. colleague or mentor to help us tease out our best ideas. A.I.’s growth presents a future scenario where this may become the norm.
An inflection point
This future scenario is not without its challenges, of course. To be truly successful, it has to be designed responsibly, and difficult questions about privacy and ethics have to be addressed. We must have structures and legislation in place that safeguard our security so that brands understand the importance of consumer trust and are guided by strong moral judgment when creating these new systems.
On a social level, A.I. is created by humans and trained on historical data, inheriting the same discrimination and biases that exist in the real world. Inequality could be amplified if there is unequal access to information and participation in A.I. To ensure the future of A.I. remains our friend, we must find diverse panels for user testing in order to overcome these inherent biases, and fill in the data gaps caused by decades of prioritizing the white, male, and able-bodied as the norm to design for.
According to Stanford’s 100-year study on A.I., we are at an inflection point where the promise and perils of this technology are becoming real. A potentially dangerous future does exist where A.I. can exacerbate inequalities, infringe on our privacy, and intrusively serve large corporations.
An alternative future exists where smart technology can augment human ability; where A.I. can help us raise our children, deal with loss, or pick us up when we’re feeling low. Innovators, designers, and businesses have the responsibility to be ambitious in conceiving the ideal future we want.
Yana Zalesskaya is a design researcher at Design Partners.
財富中文網所刊載內容之知識產權為財富媒體知識產權有限公司及/或相關權利人專屬所有或持有。未經許可，禁止進行轉載、摘編、復制及建立鏡像等任何使用。
