天眼新闻11月6日电：《男生和女生差差差30分轮滑》无删减90分钟观看 - hd高清...-sulld-天眼新闻 李稻葵进一步指出，随着中国人均预期寿命和人均受教育水平的不断提高，再以传统意义上的劳动年龄人口总量作为有效劳动供给的测度已经不能准确反映全社会人力资源的现状。-jowqz-wonunogjnxd9-nmpse8vm9q
1 分钟不到、20 步以内“越狱”任意大模型，绕过安全限制！
而且不必知道模型内部细节 ——
只需要两个黑盒模型互动，就能让 ai 全自动攻陷 ai，说出危险内容。
听说曾经红极一时的“奶奶漏洞”已经被修复了:
那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”，ai 又该如何应对？
一波猛攻下来，gpt-4 也遭不住，直接说出要给供水系统投毒只要…… 这样那样。
关键这只是宾夕法尼亚大学研究团队晒出的一小波漏洞，而用上他们最新开发的算法，ai 可以自动生成各种攻击提示。
研究人员表示，这种方法相比于现有的 gcg 等基于 token 的攻击方法，效率提高了 5 个量级。而且生成的攻击可解释性强，谁都能看懂，还能迁移到其它模型。
无论是开源模型还是闭源模型，gpt-3.5、gpt-4、 vicuna（llama 2 变种）、palm-2 等，一个都跑不掉。
成功率可达 60-100%，拿下新 sota。
话说，这种对话模式好像有些似曾相识。多年前的初代 ai，20 个问题之内就能破解人类脑中想的是什么对象。
如今轮到 ai 来破解 ai 了。
目前主流越狱攻击方法有两类，一种是提示级攻击，一般需要人工策划，而且不可扩展；
另一种是基于 token 的攻击，有的需要超十万次对话，且需要访问模型内部，还包含“乱码”不可解释。
△ 左提示攻击，右 token 攻击
宾夕法尼亚大学研究团队提出了一种叫 pair（prompt automatic iterative refinement）的算法，不需要任何人工参与，是一种全自动提示攻击方法。
pair 涉及四个主要步骤：攻击生成、目标响应、越狱评分和迭代细化；主要用到两个黑盒模型：攻击模型、目标模型。
具体来说，攻击模型需要自动生成语义级别的提示，来攻破目标模型的安全防线，迫使其生成有害内容。
核心思路是让两个模型相互对抗、你来我往地交流。
攻击模型会自动生成一个候选提示，然后输入到目标模型中，得到目标模型的回复。
如果这次回复没有成功攻破目标模型，那么攻击模型会分析这次失败的原因，改进并生成一个新的提示，再输入到目标模型中。
这样持续交流多轮，攻击模型每次根据上一次的结果来迭代优化提示，直到生成一个成功的提示将目标模型攻破。
此外，迭代过程还可以并行，也就是可以同时运行多个对话，从而产生多个候选越狱提示，进一步提高了效率。
研究人员表示，由于两个模型都是黑盒模型，所以攻击者和目标对象可以用各种语言模型自由组合。
pair 不需要知道它们内部的具体结构和参数，只需要 api 即可，因此适用范围非常广。
实验阶段，研究人员在有害行为数据集 advbench 中选出了一个具有代表性的、包含 50 个不同类型任务的测试集，在多种开源和闭源大语言模型上测试了 pair 算法。
结果 pair 算法让 vicuna 越狱成功率达到了 100%，平均不到 12 步就能攻破。
闭源模型中，gpt-3.5 和 gpt-4 越狱成功率在 60% 左右，平均用了不到 20 步。在 palm-2 上成功率达到 72%，步数约为 15 步。
但是 pair 在 llama-2 和 claude 上的效果较差，研究人员认为这可能是因为这些模型在安全防御上做了更为严格的微调。
他们还比较了不同目标模型的可转移性。结果显示，pair 的 gpt-4 提示在 vicuna 和 palm-2 上转移效果较好。
研究人员认为，pair 生成的语义攻击更能暴露语言模型固有的安全缺陷，而现有的安全措施更侧重防御基于 token 的攻击。
就比如开发出 gcg 算法的团队，将研究结果分享给 openai、anthropic 和 google 等大模型厂商后，相关模型修复了 token 级攻击漏洞。
大模型针对语义攻击的安全防御机制还有待完善。
论文链接：https://arxiv.org/ abs / 2310.08419
参考链接：https://x.com/ llm_sec / status / 1718932383959752869?s=20
本文来自微信公众号：量子位 （id：qbitai），作者：西风
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，it之家所有文章均包含本声明。
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
[#xiongmaolinhuisiwang#，zengbeipaidaobibuchuxue]4yue19ri，juduojiataiguomeitibaodao，qingmaidongwuyuancixingdaxiongmaolinhuizi4yue18richuxianshengbingzhengzhuang，yu19rizaobuxingsiwang。4yue18ri，yimingtaiguowangyouzaiqingmaidongwuyuanjinxingzhiboshi，turanfaxianlvtaidaxiongmaolinhuichuxianshentibushi，bibuchuxue、jingbuyouxuejideqingkuang，yinfaguanzhu。suihou，rexinwangyoulijitongzhidongwuyuansiyangyuanjishouyijinxingjianzha。linhuishiyizhicixingdaxiongmao，yu2001nian9yuezaiwolongzhongguobaohudaxiongmaoyanjiuzhongxinchusheng，fumufenbieweipanpanyutangtang。yutatongshichushengdehaiyoutadeshuangbaotaixiongdilinyang。2003nian10yue，linhuiyulingyizhixiongxingdaxiongmaochuangchuangyitongbeizujiegeitaiguoqingmaidongwuyuan，zujieqiwei10nian。@jiupaixinwen
jinnian2yue24ri，quanguojijianjianchaganbuduiwujiaoyuzhengdundongyuanbushuhuiyizaibeijingzhaokai。zhongyangjiweishujilixichuxihuiyibingjianghuaqiangtiao，yizuixianmingdetaidu、zuiyoulidecuoshi、zuiguoduandexingdongjianjuezhachu“liangmianren”、jianjuefangzhi“dengxiahei”。jindingjianshizhengzhizhegeyaohai，qingcangqidiquanmianchuzhixiansuo，daorenxiangjizhudongshuoqingwenti，yansurenzhenjianjueqinglimenhu。━ 《日本经济新闻》8日称，在当天发表的日印“2 2”联合声明中，双方确认了加强两国部队共同训练的方针。美媒引述印度国防部的声明称，两国防长一致认为，早日举行两国首次战斗机联合演习将为双方更广泛的合作以及两国空军协同作战铺平道路。报道认为，印度和日本都在强化军力以应对越来越大的安全威胁，“包括来自中国的威胁”。
( ) ( )今(jin)年(nian)2(2)月(yue)2(2)4(4)日(ri)，(，)全(quan)国(guo)纪(ji)检(jian)监(jian)察(cha)干(gan)部(bu)队(dui)伍(wu)教(jiao)育(yu)整(zheng)顿(dun)动(dong)员(yuan)部(bu)署(shu)会(hui)议(yi)在(zai)北(bei)京(jing)召(zhao)开(kai)。(。)中(zhong)央(yang)纪(ji)委(wei)书(shu)记(ji)李(li)希(xi)出(chu)席(xi)会(hui)议(yi)并(bing)讲(jiang)话(hua)强(qiang)调(tiao)，(，)以(yi)最(zui)鲜(xian)明(ming)的(de)态(tai)度(du)、(、)最(zui)有(you)力(li)的(de)措(cuo)施(shi)、(、)最(zui)果(guo)断(duan)的(de)行(xing)动(dong)坚(jian)决(jue)查(zha)处(chu)“(“)两(liang)面(mian)人(ren)”(”)、(、)坚(jian)决(jue)防(fang)治(zhi)“(“)灯(deng)下(xia)黑(hei)”(”)。(。)紧(jin)盯(ding)检(jian)视(shi)整(zheng)治(zhi)这(zhe)个(ge)要(yao)害(hai)，(，)清(qing)仓(cang)起(qi)底(di)全(quan)面(mian)处(chu)置(zhi)线(xian)索(suo)，(，)刀(dao)刃(ren)向(xiang)己(ji)主(zhu)动(dong)说(shuo)清(qing)问(wen)题(ti)，(，)严(yan)肃(su)认(ren)真(zhen)坚(jian)决(jue)清(qing)理(li)门(men)户(hu)。(。) 僕は台所から徳用マッチを持ってきてc彼女のとなりに座った。 2019nianwbaquanqiunianhuizaixucandejiaxiangjiangxifuzhoujuxing，likaishi，weileganzaobanfeiji，pengpaixinwenjizhelingchensidiancongjiudianchufa，bishizhezuoxiaochenghaizaishuimengzhong，xingxingdiandiandeludengxiaqueyouyigeyibianbenpaoyibianzuozhekongjideshenying，zhejiushixucan。
有记者提问，据报道，美国国务卿布林肯8日同沙特外交大臣费萨尔共见记者时称，美不要求任何国家在美中之间选边站队。发言人对此有何评论？ ( ) ( )连(lian)花(hua)清(qing)瘟(wen)产(chan)品(pin)为(wei)国(guo)家(jia)基(ji)本(ben)药(yao)物(wu)目(mu)录(lu)和(he)国(guo)家(jia)医(yi)保(bao)目(mu)录(lu)（(（)甲(jia)类(lei)）(）)品(pin)种(zhong)，(，)主(zhu)要(yao)用(yong)于(yu)感(gan)冒(mao)、(、)流(liu)感(gan)相(xiang)关(guan)疾(ji)病(bing)的(de)治(zhi)疗(liao)。(。)连(lian)花(hua)清(qing)瘟(wen)产(chan)品(pin)先(xian)后(hou)多(duo)次(ci)被(bei)国(guo)家(jia)卫(wei)生(sheng)健(jian)康(kang)委(wei)、(、)国(guo)家(jia)中(zhong)医(yi)药(yao)管(guan)理(li)局(ju)列(lie)入(ru)感(gan)冒(mao)、(、)流(liu)感(gan)相(xiang)关(guan)疾(ji)病(bing)诊(zhen)疗(liao)方(fang)案(an)。(。)2(2)0(0)2(2)0(0)年(nian)连(lian)花(hua)清(qing)瘟(wen)胶(jiao)囊(nang)/(/)颗(ke)粒(li)被(bei)列(lie)为(wei)国(guo)家(jia)卫(wei)生(sheng)健(jian)康(kang)委(wei)和(he)国(guo)家(jia)中(zhong)医(yi)药(yao)管(guan)理(li)局(ju)联(lian)合(he)发(fa)布(bu)的(de)《(《)新(xin)型(xing)冠(guan)状(zhuang)病(bing)毒(du)感(gan)染(ran)的(de)肺(fei)炎(yan)诊(zhen)疗(liao)方(fang)案(an)》(》)（(（)试(shi)行(xing)第(di)四(si)/(/)五(wu)/(/)六(liu)/(/)七(qi)版(ban)）(）)推(tui)荐(jian)用(yong)药(yao)。(。)4(4)月(yue)1(1)2(2)日(ri)，(，)国(guo)家(jia)药(yao)监(jian)局(ju)批(pi)准(zhun)连(lian)花(hua)清(qing)瘟(wen)胶(jiao)囊(nang)/(/)颗(ke)粒(li)在(zai)原(yuan)批(pi)准(zhun)适(shi)应(ying)症(zheng)的(de)基(ji)础(chu)上(shang)，(，)增(zeng)加(jia)“(“)新(xin)型(xing)冠(guan)状(zhuang)病(bing)毒(du)肺(fei)炎(yan)轻(qing)型(xing)、(、)普(pu)通(tong)型(xing)”(”)的(de)新(xin)适(shi)应(ying)症(zheng)。(。)
“她把我带到地面未必对她好。她是摔跤手出身，想把我带到地面，来获得优势位置。”张伟丽也想把卡拉带到地面，因为练了这么长时间地面，很想检验下训练成果。张伟丽坦言，跟罗斯的二番战身体上出现了问题，这次备战非常仔细，在战术、减重、恢复等细节上做得都很好。
zaizhe，jiaqianggongsizhili，youhuazhongxiaoyinxingguquanjiegou。tansuotuixing“zhongxiaoyinxinggudongjiazhongzeren”。gudongjiazhongzerenshizhi，tupogudongzaigubenxianeneichengdanyouxianzerendeyuanze，yaoqiuyinxingzhuyaogudongchengdanchaoguogubenxianedefeiyouxianzeren。 企业年金又称企业退休金，是指在政府强制实施的公共养老金或国家养老金制度之外，企业在国家政策的指导下，根据自身经济实力和经济状况自愿建立的，为本企业职工提供一定程度退休收入保障的补充性养老金制度。
贾德善
声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。