本書由佩里·卡彭特撰寫,是一本在這個復雜的數(shù)字環(huán)境中生存的b備指南。作為網絡安全和防欺詐專家,作者深入探討了生成式AI(Artificial Intelligence,人工智能)技術帶來的潛在危險,并為讀者提供了保護自己免受網絡詐騙和威脅的策略。對于想要利用技術并在不斷演化的數(shù)字環(huán)境中保持安全的人來說,本書提供了實用的防御策略。此外,作者也傳達了對技術的未來及其潛在積極用途的樂觀態(tài)度。本書的目標讀者包括:普通技術用戶、網絡安全專業(yè)人士、教育工作者和學生、企業(yè)和組織管理者、政策制定者和法律專家。
揭秘AI新型詐騙與虛假信息專家教你如何識破與應對
(1)AI能復制聲音、制作假視頻、寫出令人信服的文字,我們要如何判斷真假?歡迎來到AI驅動的騙局時代,一個只需敲幾下鍵盤就能創(chuàng)造全新虛擬現(xiàn)實的世界。
(2)網絡安全專家、欺騙學資深研究者佩里卡彭特將帶你走出這片數(shù)字雷區(qū)。在《AI欺詐:深度偽造與虛假信息防御》里,他為你準備了應對AI時代挑戰(zhàn)的知識與工具。
(3)通過引人入勝的敘述,卡彭特以講故事的方式,讓復雜的AI概念變得淺顯易懂,幫助讀者從可能的受害者變成聰明的防御者。本書結合數(shù)字操控的科學理論與實際案例,提供了防范復雜AI詐騙的系統(tǒng)策略,為個人和企業(yè)構筑有效的防護體系。它揭開了AI的神秘面紗,以易于理解的方式向大眾普及重要知識。
紀念凱文·米特尼克(1963年8月6日2023年7月16日)
你證明了,揭開欺詐的面紗,是防御的第一步。
從數(shù)字騙子到網絡衛(wèi)士,你的成長歷程不斷提醒我們,探索的渴望與堅守的誠信可以共存。
愿你那飛揚的求知欲、充滿感染力的笑聲與傳道授業(yè)的熱忱,長久綻放,影響更多的人。
序 言
我剛剛在1500多人面前,現(xiàn)場黑了佩里·卡彭特的電腦。
當然,這只是一場事先安排好的演示,佩里完全知情,我的行為也沒有造成真正的傷害。但那一套技術絕對實打實,尤其是在目標毫無察覺時,效果尤為顯著。
這些年,我憑借黑客技術攢了一些名氣,我能輕松突破他人的安全防線,尤其是那些高調人物。我曾對CNN的羅尼·奧沙利文(Donie OSullivan)、億萬富翁杰弗里·卡森伯格(Jeffrey Katzenberg)、《60分鐘》記者沙琳·阿爾方西(Sharyn Alfonsi)以及其他一些公眾人物進行過類似的黑客攻擊。每一次,我都會看到同樣的反應:驚掉下巴,雙眼圓睜,你幾乎可以聽到他們心里的聲音:我的系統(tǒng)有那么脆弱嗎?
在我一步步帶領觀眾解讀每一個攻擊細節(jié)時從深入挖掘佩里的開源情報、精準克隆他那獨具特色的聲音(他的聲音特別有趣),到精心設計極其個性化的攻擊手段我能清晰地看到他們臉上的震驚。現(xiàn)場充滿了倒吸涼氣的聲音。這不僅僅是一場理論上的攻擊,它仿佛打開了一扇通向網絡犯罪分子大腦的窗戶,展示了我們的數(shù)字和人工防御是多么無力。
作為一名黑客(友好的那種)和社會工程領域的專家,我多年來一直在研究人類神經科學和技術中的漏洞,這些漏洞常常被心懷不軌者惡意利用。我親身體驗過,如何通過一封精心設計的釣魚郵件或一次巧妙的電話溝通,輕松繞過最復雜的安全系統(tǒng)。但近幾年,人工智能的崛起徹底改變了游戲規(guī)則,它使得社會工程學的能力得到了前所未有的提升。
如今,人工智能所能發(fā)動的攻擊令人瞠目結舌。大多數(shù)人已經分不清什么是真實的,什么是機器合成的。照片、視頻、聲音、文字,人工智能都能造假。這不僅僅是派對上的小把戲或惡作劇,它會影響到人際關系,甚至全球政治直接動搖了人類信任的根基!
別誤會,人工智能并非一片悲觀的陰云。它蘊藏著無盡的潛力,可以幫我們解決問題、改善生活。然而,正如任何強大的工具一樣,若被錯誤使用你大概能預見后果。本書問世時,世界正在經歷重大事件,比如2024年美國大選,書中的見解恰逢其時,它為我們提供了清晰的指引與啟示。
在美國總統(tǒng)大選期間,我們目睹了越來越先進的人工智能工具在電子郵件、電話、短信和視頻攻擊中的應用。
佩里不僅僅是在解釋威脅。他將這一切分解為切實可行的策略,向我們展示了人類自身的怪癖如何被人工智能的詭計所利用,然后他給了我們反擊的工具,一步步教我們如何保護自己和我們的社區(qū)。
人工智能加持的社會工程學新紀元,仿佛進入了一片無序的荒原。然而,通過閱讀佩里的書,你將掌握一套實用的應對策略,從而能夠在深度偽造與人工智能欺詐的迷霧中從容前行。
無論你是安全專家、企業(yè)領導,還是一個關注人工智能社會影響的普通人,這本書都是這個時代的指路明燈。在這充滿變數(shù)的時代,保持適度的警覺吧,朋友們。
雷切爾·托巴克(Rachel Tobac)
白帽黑客、SocialProof Security 首席執(zhí)行官
佩里卡彭特(Perry Carpenter) 他是一位多次獲獎的作家、播客主和演講家,在網絡安全領域深耕二十余年,主要研究網絡犯罪對人性的利用。目前,他是KnowBe4的首席人類風險管理策略師,致力于打造以人為核心的防御體系,防范社會工程攻擊。
劉怡 畢業(yè)于北京第二外國語學院國際會議傳譯專業(yè)。云南師范大學外國語學院教師,同聲傳譯譯員,CATTI一級筆譯。出版《商業(yè)計劃書撰寫指南》《商業(yè)化學反應》《富過三代:家族財富傳承》《第六次浪潮》等譯著13本。
目 錄
引言 ChatGPT,給我出個題吧 1
第1章 永恒的心智博弈:為何它關乎你的未來 10
電波中的耳語 10
很高興見到你,希望你猜到了我的名字 11
欺詐和騙局的歷史背景 12
數(shù)字時代:欺詐的新時代 14
深度偽造的崛起:從明星面孔到政治破壞 17
合成媒體的深遠影響 18
合成媒體為何能突破我們的防線? 19
認知安全:在數(shù)字時代保護我們的心智 20
要點總結 21
第2章 欺詐的新領域:人工智能與合成媒體 23
電波中的耳語 23
拐點 24
人工智能發(fā)展簡史 25
人工智能有生命嗎?它真的能理解嗎? 33
要點總結 37
第3章 數(shù)字操縱者的心態(tài)和工具 38
電波中的耳語 38
黑客如何使用技術和解決問題 41
欺詐學入門:黑暗藝術初探 44
窺探深淵 52
要點總結 56
第4章 偏差、數(shù)據(jù)投毒和輸出異常 58
電波中的耳語 58
幻覺:人工智能創(chuàng)造力的雙刃劍 60
嚴重偏差問題 62
未能有效控制偏見的尷尬實例 65
后果與前進之路 71
要點總結 72
第5章 數(shù)字虛假信息大流行 74
電波中的耳語 74
謊言、該死的謊言和互聯(lián)網 75
人工智能驅動的虛假信息格局 81
人工智能生成的虛假信息的類型和應對策略 82
要點總結 86
第6章 深偽技術與數(shù)字欺詐的廣大范疇 88
電波中的耳語 88
在互聯(lián)網上,沒人知道你是一條狗 90
深度偽造到底是什么? 91
低技術欺詐的寒蟬效應 94
絕命毒師:不良行為者如何腐化人工智能系統(tǒng)的道德底線 99
越獄被高估:無審查的AI系統(tǒng) 111
將無害的輸出變成武器 114
關于數(shù)字欺詐難以忽視的真相 116
要點總結 117
第7章 人工智能驅動的欺詐:現(xiàn)狀與未來 119
電波中的耳語 119
進入被信息操控的區(qū)域 121
欺詐、詐騙和犯罪的支柱 124
人工智能驅動的騙局:老把戲,新工具 127
新出現(xiàn)的威脅 131
我的故事:我如何創(chuàng)建多個由GenAI驅動的詐騙機器人 136
尋找希望 138
要點總結 138
第8章 人工智能時代的媒體素養(yǎng):你的第一道防線 141
電波中的耳語 141
為真理而戰(zhàn) 143
在開始之前…… 145
數(shù)字時代的媒體素養(yǎng):你的信息叢林生存指南 148
事實核查悖論:在充滿謊言的世界中尋求真相 155
要點總結 164
第9章 認知和技術防御策略:保護工具 167
電波中的耳語 167
建立我們的認知防線 169
技術防御 181
總結:在數(shù)字時代保持警惕 188
讓我們玩點有趣的:提升你的思維與數(shù)字防護技能 188
要點總結 190
第10章 新的希望 192
電波中的耳語 192
罪犯有手段、動機和機會,我們也有 194
讓我們玩點有趣的:實戰(zhàn) 198
要點總結 200
附錄 技巧、竅門和資源 205
五大安全建議和做法 208
致謝 211
作者簡介 214