문광석 기술사/코리안리 IT보안파트장, 보안뉴스출처 : https://www.boannews.com/media/view.asp?idx=136523 [한국정보공학기술사 보안을 論하다-11] 인공지능 시대, 보안담당자의 역할최근 AI 기본법이 국회 본회의를 통과하면서, 인공지능을 위한 법적 체계가 마련되기 시작했다. 특히, ‘고영향 인공지능’의 개념이 정의되면서, 이에 대한 안전성과 신뢰성 확보가 중요한 이www.boannews.com 중요한 것은 ‘사용하지 말라’가 아니라, ‘어떻게 안전하게 사용할 것인가’다.💡정보보안 거버넌스 (Information Security Governance)AI 시스템은 기존 IT 시스템보다 훨씬 복잡하므로, 보안 담당자가 단순 운영이 아닌 정책과 전략을 수립하는 '거버넌스..

길민권 기자, 데일리시큐출처 : https://www.dailysecu.com/news/articleView.html?idxno=164161 LLM 학습 데이터에서 1만2천개 이상 API 키 및 비밀번호 노출 확인 - 데일리시큐최근 보안 연구진이 거대 언어 모델(LLM) 학습에 사용되는 데이터셋에서 약 1만2천개의 활성 API 키와 비밀번호가 포함된 사실을 발견했다. 이 조사 결과는 AI 학습 과정에서 보안이 제대로 관리되www.dailysecu.com 💡보호 조치​비밀번호와 API 키를 소스코드에 직접 포함하는 대신, 전용 보안 관리 시스템 활용​코드 리뷰 및 자동화된 보안 점검을 강화하여 하드코딩된 인증 정보를 사전에 제거​AI 학습 데이터를 사전에 철저히 검토하고, 민감한 정보가 포함되지 않도록 ..

김선애 기자, 데이터넷출처 : https://www.datanet.co.kr/news/articleView.html?idxno=198766 “AI 악성 메일, NLP·LLM·소셜 그래프 접목 보안으로 막아야” - 데이터넷[데이터넷] 이메일이 거의 대부분의 공격에 사용되고 있다. 공격자는 AI와 사회공학기법을 이용해 피해자를 교묘하게 속여 금전과 중요한 정보를 탈취한다. 평소 사용하는 언어와 상황을 이용하www.datanet.co.kr 최근 이메일 보안 솔루션에 자연어 처리(NLP), 대규모 언어모델(LLM)과 소셜 그래프 분석을 통한 소셜 엔지니어링 기법 탐지 기술이 요구된다. 가트너의 ‘이메일 보안 플랫폼(ESP) 분야 매직 쿼드런트 2024’에서는 최근 10년간 ESP에 요구되는 기술이 크게 바뀌었으..

김보민 기자, 디지털데일리출처 : https://www.ddaily.co.kr/page/view/2024121010584079684 "유용한 만큼 위험한 LLM·AI 서비스"…우리 조직에 필요한 보안 전략은?이규원 이스트시큐리티 팀장이 'DD튜브' 웨비나에서 최신 거대언어모델(LLM) 보안 위협 사례를 주제로 발표하고 있다. [ⓒ디지털데일리 DD튜브][디지털데일리 김보민기자] 생성형...www.ddaily.co.kr 💡대응 전략LLM 서비스로 인한 개인정보 및 사내 기밀정보 유출 가능성 인지 ​LLM 서비스 내 보안 기능을 넘어 고객사 자체적 보안 및 감사 관리 개인정보보호위원회 등 LLM 관련 개인정보보호 취약점 개선 권고사항 준수공개 데이터 학습 시 중요 개인 식별정보 제거 및 개인정보 침해 최소화..

이건한 기자, 디지털데일리출처 : https://www.ddaily.co.kr/page/view/2024120916440998484 AI 환각 잡는 'RAG'...만능은 아닙니다 [real! AI pro]AI 대전환의 시대, 쏟아지는 이슈와 키워드 중 '꼭 알아야 할 것'과 '알아두면 좋은' 것을 구분하기란 쉽지 않습니다. 뜬구름 잡는 이야기도 많습니다. [real! AI Pro]...www.ddaily.co.kr 하지만 LLM의 한계는 '사전학습(Pre-training)'이 끝난 데이터 처리에 특화된 점입니다. 앞부분에 언급된 LLM의 환각 부작용 또한 AI가 학습되지 않거나 잘못 학습된 데이터에서 답을 생성하려다 벌어지는 촌극인데요. 당연히 이를 보완할 또다른 기술이 필요했고, RAG가 주목받기 시작..

김우용 기자, 바이라인네트워크출처 : https://byline.network/2024/12/9-241 MS가 주목하라는 2025년 AI 트렌드 6가지 – 바이라인네트워크생성형 인공지능(AI)의 흐름이 대화형 챗봇에서 에이전트로 빠르게 이동하는 가운데, 코파일럿으로 대화형 AI 챗봇 대중화에서 가장 돋보였던 마이크로소프트가 내년도 AI 분야 트렌드를 전망했byline.network AI는 불가능해 보였던 많은 것을 가능하게 하고 있으며, 지난 한 해 동안 많은 조직이 실험 단계를 넘어 실질적인 도입 단계로 진입했다.AI 기술은 우리 삶의 모든 영역에 전면적인 변화를 가져올 전환점에 서 있다. 💡 2025년에 주목해야 할 6가지 인공지능(AI) 트렌드 1. 더욱 유능해지는 AI 모델2. 업무 방식을 혁신..

김선애 기자, 데이터넷출처 : https://www.datanet.co.kr/news/articleView.html?idxno=198248 소만사, 2024 주요 개인정보 보호 이슈 공개 - 데이터넷[데이터넷] 소만사(대표 김대환)는 올해 발생한 주요 개인정보보호 이슈를 요약, 공개했다.소만사가 발표한 7대 이슈는 ▲크라우드스트라이크發 전산마비 사태 ▲금융권 망분리 규제 개선안 발www.datanet.co.kr 💡2025 개인정보보호 7대 이슈 by. 소만사크라우드스트라이크 전산 마비 사태금융권 망분리 규제 개선안 발표​공공기관 다층보안체계(MLS) 전환 발표​페이스북(메타) 216억 과징금 부과​개인정보 유출 과징금 전체 매출 3% 부과 처분 시작​개인정보의 안전성 확보조치 기준 안내서 발간​SBOM..

윤정민 기자, 뉴시스출처 : https://www.newsis.com/view/NISX20241203_0002981367 "진짜와 구분이 안돼" 고도화된 딥페이크 공격, 사회 혼란 노린다[서울=뉴시스]윤정민 기자 = 내년에는 보다 정교한 딥페이크 콘텐츠가 기승을 부리는 등 인공지능(AI) 기반의 사이버 공격이 크게 늘어날 것으로 전망됐다. 특히 소규모 언어기반모델(sLLM)을 겨냥www.newsis.com 💡2025년 5대 정보보안 위협 by. SK쉴더스인공지능(AI) 기반 사이버 공격 증가​랜섬웨어의 진화​ID 및 액세스 관리(IAM) 서비스 대상 위협 증가​협력사 보안 관리의 중요성 대두​암호화폐 거래소 타깃 공격 재성행 💡대응 방안AI 특화 모의해킹 등 안전한 AI 서비스 사용·구축실시간 위협..

정유미 기자, 지디넷코리아출처 : https://zdnet.co.kr/view/?no=20241127175123 내년 사이버 보안 키워드는 AI…'이것'도 같이 뜬다내년부터 양자내성암호(PQC) 시장이 부상하고 인공지능(AI)을 활용한 피싱 위험이 증가할 것이라는 전망이 나왔다.27일 디지서트가 발표한 2025년 주요 사이버 보안 전망에 따르면 기업들은 향후zdnet.co.kr 💡2025년 주요 사이버 보안 전망양자내성암호(PQC) 부상최고신뢰책임자(Chief Trust Officer) 주목자동화 및 민첩성콘텐츠 출처 보편화회복 탄력성 요구AI 기반 피싱 공격 급증사설 PKI 표준 채택 가속화암호화 자재 명세서(CBOM) 각광인증서 관리 수작업 시대 종료공급업체 축소 💡주요 키워드양자내성암호(PQC)..

오병훈 기자, 디지털데일리출처 : https://m.ddaily.co.kr/page/view/2024091116570846528 [CSK2024] 범죄 하나 알려주면 열 배우는 AI…“AI모델 간접 공격 위험도↑”11일 권태경 연세대학교 교수가 ‘사이버 서밋 코리아2024...m.ddaily.co.kr 💡AI 모델 공격과 가드레일(또는 세이프가드)AI 모델의 보안 위협생성형 AI의 등장으로 '어뷰즈' 위험이 증가하고 있음AI 모델이 악용되어 부적절한 콘텐츠를 생성하거나, 공격자가 AI의 필터링을 우회하여 악성 프롬프트를 주입함​간접 프롬프트 주입 공격AI 모델에 직접적인 명령이 아닌, 간접적인 방법으로 악성 프롬프트를 주입하여 모델의 출력을 조작사용자가 동물 사진을 입력했을 때 AI가 이를 벌레로 잘못..