길민권 기자, 데일리시큐출처 : https://www.dailysecu.com/news/articleView.html?idxno=164161 LLM 학습 데이터에서 1만2천개 이상 API 키 및 비밀번호 노출 확인 - 데일리시큐최근 보안 연구진이 거대 언어 모델(LLM) 학습에 사용되는 데이터셋에서 약 1만2천개의 활성 API 키와 비밀번호가 포함된 사실을 발견했다. 이 조사 결과는 AI 학습 과정에서 보안이 제대로 관리되www.dailysecu.com 💡보호 조치​비밀번호와 API 키를 소스코드에 직접 포함하는 대신, 전용 보안 관리 시스템 활용​코드 리뷰 및 자동화된 보안 점검을 강화하여 하드코딩된 인증 정보를 사전에 제거​AI 학습 데이터를 사전에 철저히 검토하고, 민감한 정보가 포함되지 않도록 ..

김선애 기자, 데이터넷출처 : https://www.datanet.co.kr/news/articleView.html?idxno=198766 “AI 악성 메일, NLP·LLM·소셜 그래프 접목 보안으로 막아야” - 데이터넷[데이터넷] 이메일이 거의 대부분의 공격에 사용되고 있다. 공격자는 AI와 사회공학기법을 이용해 피해자를 교묘하게 속여 금전과 중요한 정보를 탈취한다. 평소 사용하는 언어와 상황을 이용하www.datanet.co.kr 최근 이메일 보안 솔루션에 자연어 처리(NLP), 대규모 언어모델(LLM)과 소셜 그래프 분석을 통한 소셜 엔지니어링 기법 탐지 기술이 요구된다. 가트너의 ‘이메일 보안 플랫폼(ESP) 분야 매직 쿼드런트 2024’에서는 최근 10년간 ESP에 요구되는 기술이 크게 바뀌었으..

김보민 기자, 디지털데일리출처 : https://www.ddaily.co.kr/page/view/2024121010584079684 "유용한 만큼 위험한 LLM·AI 서비스"…우리 조직에 필요한 보안 전략은?이규원 이스트시큐리티 팀장이 'DD튜브' 웨비나에서 최신 거대언어모델(LLM) 보안 위협 사례를 주제로 발표하고 있다. [ⓒ디지털데일리 DD튜브][디지털데일리 김보민기자] 생성형...www.ddaily.co.kr 💡대응 전략LLM 서비스로 인한 개인정보 및 사내 기밀정보 유출 가능성 인지 ​LLM 서비스 내 보안 기능을 넘어 고객사 자체적 보안 및 감사 관리 개인정보보호위원회 등 LLM 관련 개인정보보호 취약점 개선 권고사항 준수공개 데이터 학습 시 중요 개인 식별정보 제거 및 개인정보 침해 최소화..

이건한 기자, 디지털데일리출처 : https://www.ddaily.co.kr/page/view/2024120916440998484 AI 환각 잡는 'RAG'...만능은 아닙니다 [real! AI pro]AI 대전환의 시대, 쏟아지는 이슈와 키워드 중 '꼭 알아야 할 것'과 '알아두면 좋은' 것을 구분하기란 쉽지 않습니다. 뜬구름 잡는 이야기도 많습니다. [real! AI Pro]...www.ddaily.co.kr 하지만 LLM의 한계는 '사전학습(Pre-training)'이 끝난 데이터 처리에 특화된 점입니다. 앞부분에 언급된 LLM의 환각 부작용 또한 AI가 학습되지 않거나 잘못 학습된 데이터에서 답을 생성하려다 벌어지는 촌극인데요. 당연히 이를 보완할 또다른 기술이 필요했고, RAG가 주목받기 시작..

김우용 기자, 바이라인네트워크출처 : https://byline.network/2024/12/9-241 MS가 주목하라는 2025년 AI 트렌드 6가지 – 바이라인네트워크생성형 인공지능(AI)의 흐름이 대화형 챗봇에서 에이전트로 빠르게 이동하는 가운데, 코파일럿으로 대화형 AI 챗봇 대중화에서 가장 돋보였던 마이크로소프트가 내년도 AI 분야 트렌드를 전망했byline.network AI는 불가능해 보였던 많은 것을 가능하게 하고 있으며, 지난 한 해 동안 많은 조직이 실험 단계를 넘어 실질적인 도입 단계로 진입했다.AI 기술은 우리 삶의 모든 영역에 전면적인 변화를 가져올 전환점에 서 있다. 💡 2025년에 주목해야 할 6가지 인공지능(AI) 트렌드 1. 더욱 유능해지는 AI 모델2. 업무 방식을 혁신..

윤정민 기자, 뉴시스출처 : https://www.newsis.com/view/NISX20241203_0002981367 "진짜와 구분이 안돼" 고도화된 딥페이크 공격, 사회 혼란 노린다[서울=뉴시스]윤정민 기자 = 내년에는 보다 정교한 딥페이크 콘텐츠가 기승을 부리는 등 인공지능(AI) 기반의 사이버 공격이 크게 늘어날 것으로 전망됐다. 특히 소규모 언어기반모델(sLLM)을 겨냥www.newsis.com 💡2025년 5대 정보보안 위협 by. SK쉴더스인공지능(AI) 기반 사이버 공격 증가​랜섬웨어의 진화​ID 및 액세스 관리(IAM) 서비스 대상 위협 증가​협력사 보안 관리의 중요성 대두​암호화폐 거래소 타깃 공격 재성행 💡대응 방안AI 특화 모의해킹 등 안전한 AI 서비스 사용·구축실시간 위협..

정유미 기자, 지디넷코리아출처 : https://zdnet.co.kr/view/?no=20241127175123 내년 사이버 보안 키워드는 AI…'이것'도 같이 뜬다내년부터 양자내성암호(PQC) 시장이 부상하고 인공지능(AI)을 활용한 피싱 위험이 증가할 것이라는 전망이 나왔다.27일 디지서트가 발표한 2025년 주요 사이버 보안 전망에 따르면 기업들은 향후zdnet.co.kr 💡2025년 주요 사이버 보안 전망양자내성암호(PQC) 부상최고신뢰책임자(Chief Trust Officer) 주목자동화 및 민첩성콘텐츠 출처 보편화회복 탄력성 요구AI 기반 피싱 공격 급증사설 PKI 표준 채택 가속화암호화 자재 명세서(CBOM) 각광인증서 관리 수작업 시대 종료공급업체 축소 💡주요 키워드양자내성암호(PQC)..

오병훈 기자, 디지털데일리출처 : https://m.ddaily.co.kr/page/view/2024091116570846528 [CSK2024] 범죄 하나 알려주면 열 배우는 AI…“AI모델 간접 공격 위험도↑”11일 권태경 연세대학교 교수가 ‘사이버 서밋 코리아2024...m.ddaily.co.kr 💡AI 모델 공격과 가드레일(또는 세이프가드)AI 모델의 보안 위협생성형 AI의 등장으로 '어뷰즈' 위험이 증가하고 있음AI 모델이 악용되어 부적절한 콘텐츠를 생성하거나, 공격자가 AI의 필터링을 우회하여 악성 프롬프트를 주입함​간접 프롬프트 주입 공격AI 모델에 직접적인 명령이 아닌, 간접적인 방법으로 악성 프롬프트를 주입하여 모델의 출력을 조작사용자가 동물 사진을 입력했을 때 AI가 이를 벌레로 잘못..

팽동현 기자, 디지털 타임스출처 : https://www.dt.co.kr/contents.html?article_no=2024112602109931081009&ref=naver "악성코드 만들어줘"...생성형AI發 보안위협 밀려온다잘 드는 칼은 유용한 만큼 위험하다. 어떻게 쓰냐에 따라 요리를 만들 수도, 범죄로..www.dt.co.kr 💡 'AI를 위한 보안(Security for AI)' 시대 생성형 AI의 일상화가 가속되면서 해커들도 이를 적극 악용하고 있음한국인터넷진흥원(KISA)은 2025년 사이버보안 핵심 트렌드로 “생성형 AI 기반 사이버공격의 다양화”를 지목KISA 분석 결과 공격자들이 AI에게 "주소로 관련 정보 찾아줘", "특정 주소와 거래하는 악성코드 만들어줘" 등의 프롬프트를 사용..

박찬 기자, AI 타임스출처 : https://www.aitimes.com/news/articleView.html?idxno=165639 로봇 AI, LLM보다 탈옥에 취약..."엔비디아·유니트리 모델 100% 탈옥 성공" - AI타임스인공지능(AI)을 탑재한 다양한 로봇 시스템이 탈옥과 해킹에 심각하게 취약하다는 연구 결과가 나왔다. 톰스하드웨어는 24일(현지시간) 펜실베이니아 대학교 연구진이 대형언어모델(LLM)을 탑재www.aitimes.com 💡주요 키워드탈옥(Jailbreak): 보안 시스템의 제한을 우회하여 기기나 소프트웨어를 비정상적으로 작동하게 만드는 행위로, AI 로봇의 경우, 안전 장치를 무력화하여 원치 않는 행동을 수행하게 할 수 있음​대형언어모델(LLM): 방대한 양의 텍스트 데이..