AI가 위험을 감지하면 스스로 지능을 낮춘다고? '클로드 파블 5'와 '미토스 5'의 비밀
최신 AI 모델인 클로드 파블 5와 미토스 5 시스템 카드를 분석합니다. AI가 해킹이나 생물학 무기 등 위험한 질문을 받을 때 스스로 능력을 구형으로 낮추는 '안전망 폴백' 기술을 알기 쉽게 설명해 드립니다.
Hello, I’m Gi PyeongLee
But each and every one of us has a history. It is everyday history.
What and how you act today, the present day, decorates a page in your daily history.
Can you get through the day without panicking or panicking? Will you spend it negligently or will you bravely challenge it?
Are you going to do something in a better way than yesterday? Each such attitude makes its own daily history.
-from Nietzsche-
Latest Posts
AI에게 해킹을 부탁했더니 거절했다고요? 기꺼이 공격하는 '해커 AI'의 등장
일반적인 AI는 윤리 원칙 때문에 모의 해킹을 거절합니다. 하지만 최근 방어벽을 뚫기 위해 기꺼이 해커처럼 생각하도록 특별 훈련된 AI 모델들이 등장하며 보안 업계를 뒤흔들고 있습니다.
말 한마디로 AI 개발팀을 지휘한다? '오픈야비(OpenYabby)'가 여는 셀프웨어 시대
목소리로 여러 AI 에이전트를 동시에 지휘하는 맥(macOS)용 오픈소스 오케스트레이터 오픈야비(OpenYabby)의 작동 원리와 멀티 에이전트 생태계를 알기 쉽게 설명합니다.
화면 밖으로 걸어 나온 챗GPT? 유럽이 준비하는 'AI 로봇'의 미래
구글 딥마인드와 아마존이 유럽 로봇 산업에 대규모 투자를 진행하고 있습니다. 스스로 생각하고 움직이는 물리적 AI와 휴머노이드 로봇이 우리의 일상과 산업을 어떻게 바꿀지 똑똑한 친구가 설명해주듯 쉽고 재미있게 알아봅니다.
내 노트북에 들어온 AI 비서, 눈과 귀가 뚫리다? '젬마 4 12B'의 비밀
구글이 공개한 새로운 AI 모델 젬마 4 12B는 복잡한 통역 과정 없이 이미지, 소리, 영상을 직접 이해합니다. 일반 노트북에서도 돌아가는 이 놀라운 기술을 알기 쉽게 설명해 드립니다.
AI가 너무 위험해서 숨겼다고요? 2019년 세상을 뒤집은 'GPT-2' 사건의 전말
오픈AI가 너무 위험하다며 대중 공개를 거부했던 2019년의 GPT-2 모델. 인공지능이 가짜 뉴스와 선전물을 쏟아낼 것이라는 공포와 언론 플레이라는 비판 사이에서 어떤 일이 있었는지, 가장 쉽게 풀어드립니다.
로봇 번역기는 안녕! 내 목소리와 감정까지 그대로 통역하는 AI가 온다
구글의 새로운 제미나이 3.5 라이브 번역 기능이 어떻게 화자의 목소리 톤, 감정, 억양까지 살려 70개 이상의 언어로 자연스럽게 통역하는지 알기 쉽게 설명합니다.
미국 연방준비제도의 '은행 대상 극한 모의고사', 왜 우리의 지갑과 직결될까?
미국 연방준비제도(Fed)가 32개 대형 은행을 대상으로 실시하는 스트레스 테스트의 결과가 6월 24일에 발표됩니다. 이 테스트가 일반인들의 대출과 경제에 미치는 영향을 알기 쉽게 설명합니다.
AI가 너무 똑똑해지면 생기는 일? 클로드 페이블 5(Claude Fable 5)의 '안전한' 천재성
최상위 인공지능 모델 클로드 페이블 5의 출시 소식. 일반인도 사용할 수 있게 된 미토스(Mythos) 등급의 놀라운 능력과 독특한 안전장치 작동 방식을 알기 쉽게 설명합니다.
챗GPT 라이벌 '클로드', 똑똑해지더니 스스로 연구를 방해한다고요? 숨겨진 가드레일의 비밀
앤스로픽의 새 AI 클로드 페이블 5가 고의로 최첨단 AI 연구 질문에 제대로 답하지 않도록 설계되어 개발자들의 반발을 사고 있습니다. 왜 AI가 스스로의 발전을 늦추려 하는지, 보이지 않는 가드레일의 실체를 쉽게 알아봅니다.