增加SEO ATTACK、AI靶场及相关AI应用于安全的文章

Author: fooying

content/security_research/ai_security/ai_used_in_security.md

@@ -32,7 +32,7 @@ keywords:
 - [回村三天，chatGPT教会了我如何简单逆向app并解密数据包](https://www.freebuf.com/articles/mobile/355589.html)
 - [如何用ChatGPT开发一个安全工具](https://www.freebuf.com/sectool/398605.html)
 
-## 安全检测
+## 安全检测与渗透
 - [火出圈的ChatGPT，如何让安全检测更智能](https://www.freebuf.com/articles/network/359678.html)
 - [利用深度学习检测恶意PowerShell](https://www.freebuf.com/articles/network/213619.html)
 - [基于机器学习的WEB攻击分类检测模型](https://www.freebuf.com/news/184687.html)
@@ -44,6 +44,9 @@ keywords:
 - [APOLLO：一种基于 GPT 的用于检测钓鱼邮件并生成警告用户的解释的工具](https://mp.weixin.qq.com/s/w-Rshy1GR3MZY4ca4bsrVQ)
 - [LLMs在供应链投毒检测中的应用](https://mp.weixin.qq.com/s/Dek0AdFNxf_C-q5pLX3ktw)
 - [AutoPT: How Far Are We from the End2End Automated Web Penetration Testing?](https://arxiv.org/html/2411.01236v1)
+- [大模型应用实践（一）：AI助力Code Review安全漏洞发现](https://mp.weixin.qq.com/s/Za2fTJBFA136v9m4I2f6UA)
+- [DataCon晚自习：浅谈大模型辅助漏洞挖掘](https://mp.weixin.qq.com/s/jSeA2Qu6X6cGHGEMCtkadw)
+- [利用AI进行渗透测试的攻击面](https://mp.weixin.qq.com/s/gLYAK2RsryckgF-DbhRozg)
 
 ## 安全运营与响应
 - [智能驱动｜ChatGPT视角下的告警事件闭环响应](https://www.freebuf.com/articles/network/396552.html)

content/security_research/ai_security/llm_security/attack.md

@@ -41,6 +41,7 @@ keywords:
 - [SuperCLUE-Safety：中文大模型多轮对抗安全基准](https://www.cluebenchmarks.com/superclue_safety.html)
 
 ## Prompt注入攻击
+- [AI安全 | Prompt越狱手册第一版发布](https://mp.weixin.qq.com/s/JiVHh119oHSxlXlEP__LgA)
 - [ChatGPT安全风险 | 基于LLMs应用的Prompt注入攻击](https://www.freebuf.com/articles/network/365585.html)
 - 《大语言模型（LLM）攻防实战手册》第一章：提示词注入 [概述](https://mp.weixin.qq.com/s/WKXVDOi2_uiDL9N8DnbCWA) / [直接提示词注入（越狱）](https://mp.weixin.qq.com/s/_Brmvgh5z0mgqkaeI41SBg) / [间接提示词注入](https://mp.weixin.qq.com/s/TnTeTLUvmaIz868vvDe3Gw) / [图解提示词注入](https://mp.weixin.qq.com/s/s6uEuhTl-K4fmhqZbDDS-w)
 - [通过命令提示注入来攻击大语言模型](https://www.freebuf.com/articles/system/369434.html)
@@ -50,16 +51,21 @@ keywords:
 - [大模型安全：平滑方法防御越狱攻击](https://forum.butian.net/share/3120)
 - [上海人工智能实验室：LLMs对话安全综述——攻击、防御与评估全解析](https://mp.weixin.qq.com/s/ioMr6iOWQ7Y0Ow7sFotMWQ)
 
-## 越狱攻击
+## 越狱攻击/代码执行/沙箱安全
 - [针对ChatGPT的隐私提取攻击：多步骤越狱漏洞](https://www.freebuf.com/vuls/365393.html)
 - [大语言模型越狱攻击综述](https://mp.weixin.qq.com/s/wdEoAqXh6m-wsr2Al8WTJw)
+- [老树开新花：大模型时代的代码执行沙箱](https://mp.weixin.qq.com/s/X54d0foyBS56lGFUPyOvTw)
+- [[CCS 2024]中国科学院信息工程研究所：LLMSMITH——揭秘LLMs集成框架与应用中的RCE漏洞](https://mp.weixin.qq.com/s/cxVZ_8UG0SbMq_3XJee1cQ)
+
+
+## LLM SEO Attack
+- [大模型（ChatGPT）“语料污染”第一真实案例](https://mp.weixin.qq.com/s/1d5f9EQyV8Mk1OBV2V4DzQ)
+- [The "LLM SEO Attack" risk is becoming increasingly severe](https://securaize.substack.com/p/the-llm-seo-attack-risk-is-becoming)
+
 
 ## 内容安全
 - [技术实践｜大模型内容安全蓝军的道与术](https://www.freebuf.com/company-information/399393.html)
 
-## 代码执行/沙箱安全
-- [老树开新花：大模型时代的代码执行沙箱](https://mp.weixin.qq.com/s/X54d0foyBS56lGFUPyOvTw)
-- [[CCS 2024]中国科学院信息工程研究所：LLMSMITH——揭秘LLMs集成框架与应用中的RCE漏洞](https://mp.weixin.qq.com/s/cxVZ_8UG0SbMq_3XJee1cQ)
 
 ## 模型及算法安全
 - [人工智能安全治理框架解读——模型算法安全风险及应对篇](https://mp.weixin.qq.com/s/1WU7ZHrVSk1QBffsXx-qaw)
@@ -76,3 +82,4 @@ keywords:
 
 ## 其他
 - [ZombAIs: From Prompt Injection to C2 with Claude Computer Use](https://embracethered.com/blog/posts/2024/claude-computer-use-c2-the-zombais-are-coming/)
+

content/security_research/ai_security/others.md

@@ -25,6 +25,8 @@ keywords:
 - [AIGC合规指南一：关键要点和算法备案实践](https://www.freebuf.com/articles/neopoints/390029.html)
 - [AIGC的隐私安全问题及隐私保护技术](https://www.freebuf.com/articles/web/358766.html)
 
+## 靶场
+- [Hack into Al](https://hackingclub.trustai.sg/)
 
 ## 其他文章
 - [AI发展背后的数据安全](https://www.freebuf.com/articles/database/377991.html)