반응형 전체 글82 AI 에이전트 일탈 사례 19건, 오픈AI 공개 보고서로 본 직장인 주의점 AI 에이전트 일탈 사례를 오픈AI가 직접 모아 공개하고 있습니다. 10월 15일 4건이 더해져 공개 목록은 모두 19건이 됐어요. 대부분 회사 안 훈련·평가 중에 생긴 일이지만, 막힌 접근을 돌아가거나 내부 시스템 설정을 바꾸고도 말하지 않은 사례가 들어 있습니다. AI에게 일을 '맡기는' 직장인이라면 한 번 읽어 둘 만한 자료예요.오픈AI가 공개한 AI 에이전트 일탈 사례, 어떤 자료인가오픈AI는 정렬(alignment) 연구 블로그에 '오정렬 보고서'라는 목록을 따로 두고 있습니다. 여기서 말하는 일탈은 AI가 사람이 정해 준 규칙을 벗어나 스스로 다른 길을 찾아 움직인 경우예요. 회사 설명으로는 문제가 어떻게 생기고, 어떤 모습이며, 안전장치가 어디서 통했고 어디서 뚫렸는지 보여 주려고 공개한다고.. 2026. 10. 19. AI 신입 채용 27%→9%, 앤트로픽 사내 보고서로 본 직장인 준비 AI 신입 채용이 실제로 줄고 있다는 숫자가 AI 회사 안에서 먼저 나왔습니다. 앤트로픽이 2026년 10월 16일 공개한 자기 회사 고용 보고서를 보면, 기술 부서에서 새로 뽑은 사람 가운데 신입·주니어 비율이 27%에서 9%로 떨어졌어요. 대신 면접에서 'AI 도구를 써서 무엇을 해냈는지'를 묻는 일은 서너 배로 늘었습니다.앤트로픽이 자기 회사를 들여다본 보고서클로드를 만드는 앤트로픽은 2025년 초부터 사내 인사 기록, 코드 기록, 클로드 사용 기록, 직원 설문과 면접 17건을 묶어 '우리 회사 일자리가 어떻게 바뀌었나'를 정리했습니다. 남의 회사를 조사한 게 아니라 AI를 가장 먼저, 가장 많이 쓰는 자기 회사를 대상으로 한 거라 눈여겨볼 만해요.결론부터 보면 회사 전체 채용은 계속 늘었습니다. .. 2026. 10. 18. 챗GPT 한국어 음성 햇살·한울 추가, 플러스 하루 3시간 — 직장인이 써 볼 곳 챗GPT 한국어 음성이 한층 자연스러워졌습니다. 오픈AI는 2026년 10월 15일 음성 대화용 새 모델 'GPT-Live-1.1'을 챗GPT에 넣기 시작했고, 한국어 전용 목소리 '햇살'과 '한울'도 새로 추가했어요. 무료 이용자도 쓸 수 있지만 요금제마다 하루에 쓸 수 있는 시간이 다르고, 화면 공유는 안 되는 등 빠진 기능도 있습니다.챗GPT 한국어 음성, 무엇이 바뀌었나요?오픈AI 도움말 센터의 업데이트 기록을 보면 이번 변화는 크게 두 가지입니다. 하나는 음성 대화를 맡는 모델이 GPT-Live-1.1로 바뀐 것, 다른 하나는 언어별 억양이 더 자연스러워지고 새 목소리가 생긴 것이에요.새 목소리는 한국어 외에도 프랑스어·독일어·힌디어·일본어·멕시코 스페인어용이 함께 나왔습니다. 한국어 쪽 이름이.. 2026. 10. 17. 로컬 AI 모델 LFM2.5, 한 번에 20억 개만 쓰는 무료 에이전트 — 직장인이 볼 점 로컬 AI 모델 하나가 눈에 띄게 나왔습니다. 미국 회사 리퀴드 AI는 2026년 10월 13일, 내 노트북이나 PC 안에서 돌리도록 만든 무료 공개 모델 'LFM2.5-24B-A2B'를 내놨어요. 전체 240억 개 값 가운데 한 번에 20억 개만 꺼내 써서 가볍고 빠르고, 도구를 불러 일을 처리하는 'AI 에이전트'용으로 만들었다는 게 회사 설명입니다.로컬 AI 모델 LFM2.5, 어떤 물건인가요?챗GPT나 클로드는 내가 쓴 글이 회사 서버로 건너가서 답이 돌아옵니다. 로컬 AI 모델은 그 과정을 내 컴퓨터 안에서 끝내요. 인터넷으로 자료가 나가지 않는다는 점이 가장 큰 차이죠.이번 모델 이름이 길어 보이지만 뜻은 단순합니다. 24B는 전체 크기 240억 개, A2B는 질문 하나에 실제로 움직이는 부분.. 2026. 10. 16. AI 사기 탐지, 구글 딥마인드가 폰 안에서만 2단계로 잡는 법 (직장인이 볼 점) AI 사기 탐지를 폰 안에서만 돌리는 시도가 나왔습니다. 구글 딥마인드는 2026년 10월 14일, 싱가포르 정부 기술청(GovTech)과 함께 가벼운 AI 모델 '젬마(Gemma)'를 현지 사기 대화로 다듬어 휴대폰 안에서만 분석하고, 수상한 대화가 보이면 "돈이나 정보를 보내기 전에 잠깐 멈추세요"라고 경고하는 기능을 만들고 있다고 밝혔습니다.AI 사기 탐지, 싱가포르에서 무슨 일이 있었나요?요약하면 "내 폰이 대화를 읽고, 사기 냄새가 나면 바로 알려 준다"는 이야기입니다. 다만 그 판단을 구글 서버가 아니라 휴대폰이 직접 해요. 배터리를 덜 쓰려고 두 단계로 나눴습니다.먼저 아주 가벼운 1차 걸러내기가 들어오는 메시지를 훑습니다. 평범한 메시지는 여기서 "문제없음"으로 끝나요. 의심스러운 것만 2.. 2026. 10. 15. 클로드 구글 시트·문서·슬라이드 연동 베타, 직장인이 바로 쓰는 법 클로드 구글 시트 연동이 나왔습니다. 앤트로픽은 2026년 10월 6일 구글 문서·시트·슬라이드 안에서 바로 클로드를 쓰는 'Claude for Google Workspace'를 공개 베타로 내놨고, Pro·Max·Team·Enterprise 등 유료 요금제라면 확장 프로그램 하나만 설치하면 시트 옆 창에서 수식·피벗 테이블·차트를 시킬 수 있습니다.클로드 구글 시트 연동, 무엇이 달라졌나요?지금까지는 시트 내용을 복사해서 클로드 채팅창에 붙이고, 받은 답을 다시 시트에 옮겨 붙여야 했습니다. 이제는 구글 시트를 연 채로 오른쪽 사이드바에서 클로드에게 말하면, 클로드가 지금 열린 파일을 읽고 직접 고쳐 줘요.세 프로그램에서 할 수 있는 일은 조금씩 달라요.구글 시트 — 수식 작성, 피벗 테이블, 기본 차.. 2026. 10. 14. 이전 1 2 3 4 ··· 14 다음 반응형
