비즈니스가 쓰는 AI 도구에 조용히 도착하고 있는 새 기능이 하나 있는데, 그 이름이 아주 사랑스럽게 들립니다. 바로 기억입니다. 어시스턴트가 여러분의 고객, 여러분의 프로젝트, 여러분의 선호를 기억하니, 같은 설명을 두 번 할 필요가 없습니다. 정말로 유용합니다. 동시에, 들뜬 나머지 대부분이 건너뛰는 질문을 던져야 할 순간이기도 합니다 — 그런데 정확히, 그 모든 걸 어디에 보관하는 거지?
도움이 되는 부분
이번 달 Google Cloud는 “상시 켜진 기억” 에이전트를 선보였습니다 — 물어볼 때 사실 하나를 떠올리는 데 그치지 않고, 시간이 지나면서 여러분의 비즈니스에 대한 이해를 끊임없이 쌓고 다듬어 가는 AI입니다. 다른 엔터프라이즈 어시스턴트들도 같은 발상을 더하고 있습니다. 매일 아침 아무것도 모르는 상태에서 시작하는 대신, 에이전트는 맥락을 이어서 가져갑니다. 이 고객이 지난주에 항의했다는 것, 이 거래가 거의 성사되었다는 것, 여러분이 어떤 방식을 선호한다는 것을 압니다.
잘만 하면 그것은 진짜 선물입니다. 반복이 줄고, 놓치는 실마리가 줄고, 정말로 이곳에서 일하는 것처럼 느껴지는 어시스턴트. 그것을 포기하고 싶은 사람은 아무도 없을 겁니다.
속도를 늦추고 살펴볼 가치가 있는 부분
하지만 기억이란 그저 “그것이 간직하기로 결정한 데이터”의 다른 말일 뿐입니다. 그리고 AI가 여러분의 고객에 대한 기록을 계속 쌓아가는 순간, 오래되고 화려하지 않은 세 가지 질문이 곧바로 되돌아옵니다. 그것은 무엇을 기억해도 되는가? 그 기억은 어디에 저장되며, 누가 볼 수 있는가? 그리고 — 중요해질 때까지 사람들이 잊고 있는 질문 — 그것을 잊게 만들 수 있는가?
마지막 질문은 그저 있으면 좋은 게 아닙니다. 고객이 자기 데이터를 삭제해 달라고 요청했을 때, “AI가 어딘가에서 아직 그 고객을 기억하고 있습니다”는 규제 당국에 받아들여질 만한 답이 아닙니다. 들여다볼 수도 지울 수도 없는 기억은 기능이 아닙니다. 친근한 얼굴을 쓴 책임 부담입니다.
숙취 없이 즐기는 법
좋은 소식은, 이 중 어느 것도 기억을 꺼야 한다는 뜻이 아니라는 점입니다. 필요한 것은, 그것을 여러분의 고객 데이터가 사는 다른 모든 장소처럼 다루는 것 — 의도적으로 말입니다. 에이전트가 무엇을 기억해도 되고 무엇을 결코 간직해선 안 되는지를 미리 정하세요. 그 기억을 믿음에 맡겨야 하는 블랙박스가 아니라, 여러분이 통제하고 안을 들여다볼 수 있는 곳에 두세요. “이 사람을 잊어라”가 실제로 누를 수 있는 버튼이 되도록, 나머지 데이터와 똑같은 동의 및 삭제 규칙에 묶어 두세요.
그렇게 하면 기억은 약속대로 바로 그 조용한 우위가 됩니다. 여러분이 일부러 그은 선 안에 담긴 채, 여러분의 비즈니스를 아는 어시스턴트 말입니다. 이를 건너뛰면, 여러분은 그저 고객 데이터의 사본을 하나 더 — 볼 수 없는 곳에, 법적 책임은 여러분이 지는 채로 — 만들어낸 것에 불과합니다.
기억하는 AI는 올해 말이면 어디에나 있을 겁니다. 그것을 아끼게 되는 회사는, 그것이 무엇을 간직해도 되는지를 미리 결정해 둔 회사입니다. 기억은 그 열쇠를 쥔 사람이 여러분일 때에만 선물입니다.