생성 AI에 대한 책임 있는 접근 방식

Skyword CEO인 Andrew C. Wheeler로부터 콘텐츠 발전에 대한 더 많은 통찰력을 얻으려면 월간 뉴스레터인 콘텐츠 및 컨텍스트를 구독하세요.

최근 Gartner가 2,500명 이상의 임원을 대상으로 실시한 여론 조사에 따르면 , 70%가 생성 AI를 적극적으로 조사 및 탐구하고 있으며, 19%는 이미 파일럿 또는 프로덕션 모드에 있습니다. 이는 올해에만 생성 AI를 중심으로 구축된 비즈니스 긴급 상황을 생생하게 보여줍니다.

새로운 기술이 등장함에 따라 비즈니스 리더의 중요한 과제는 처음에 부풀려진 기대와 실제 적용의 현실 사이에서 균형을 맞추는 것입니다.

Gartner가 조사한 임원 중 68%는 생성 AI의 이점이 위험보다 더 크다고 믿고 있지만, Gen-AI 솔루션을 개발하고 배포하는 많은 조직에서 신뢰, 보안, 개인 정보 보호 및 윤리적 문제가 직면할 것으로 예상됩니다.

마케팅 담당자들 사이에서 제가 직면하는 가장 불안한 질문은 기술 불확실성을 고려하여 콘텐츠 제작에 생성 AI를 안전하고 책임감 있게 활용하는 방법입니다.

뉴스를 읽어보신 분이라면 다음 사항을 아실 것입니다.

• OpenAI의 ChatGPT, Microsoft의 Bing, Google의 Bard는 모두 잘못된 정보를 생성하는 것으로 입증되었습니다 .
• 이미지 생성기를 포함한 생성 AI 도구는 차별적인 출력을 생성하는 경향이 잘 문서화되어 있습니다 .
• 기본 모델은 종종 저작권이 있는 저작물에 대해 교육을 받지만 결과에 대한 신뢰할 수 있는 소스를 제공하지 않습니다.

하지만 마케팅 조직에 있어 이러한 위험은 얼마나 현실적이며 이를 완화하기 위해 무엇을 할 수 있습니까? 선택 사항을 고려하는 분들께 드리는 조언은 다음과 같습니다.

먼저, 채택할 수 있는 경로가 두 가지 이상이라는 점을 인식하세요. 광범위하게 말하면 탐색할 솔루션에는 세 가지 범주가 있습니다.

1. 공용 AI 도구: Bard 및 ChatGPT를 포함한 이러한 도구는 일반 대중이 쉽게 사용할 수 있습니다.이는 사용자가 구조화되지 않은 환경에서 사전 훈련된 AI 모델과 직접 인터페이스할 수 있는 클라우드 기반 플랫폼입니다. 비용이 저렴하고 쉽게 접근할 수 있지만 위험과 오용의 위험이 가장 높습니다. 이 경로를 따른다는 것은 이러한 도구가 안전하고 책임감 있고 일관되게 작업 흐름에 채택되도록 하는 데 필요한 주변 시스템을 개발하고 유지 관리하는 것이 귀하의 비즈니스에 달려 있음을 의미합니다.
2. 독점 AI 도구: 이러한 도구는 회사를 위해 개발되었으며 회사가 소유합니다.고유한 요구 사항이 있거나 AI 모델의 교육 데이터 및 개발을 완전히 제어해야 하는 경우 구축과 구매가 좋은 선택이 될 수 있습니다. 그러나 이러한 방식으로 AI 모델을 효과적으로 훈련하고 유지하는 데 필요한 상당한 비용, 노력 및 지속적인 데이터로 인해 이 옵션은 많은 조직에서 도달할 수 없습니다.
3. 엔터프라이즈 AI 도구: 복잡한 마케팅 요구 사항이 있는 대규모 조직을 위해 설계된 이 도구는 구조화된 AI 애플리케이션, 확장성, 기존 시스템과의 통합 및 내장된 보안 기능을 제공합니다.

주의 사항:우리는 AI 부문에서 우위를 점하기 위해 기술 기업들 사이에서 군비 경쟁을 경험하고 있습니다. 예를 들어, OpenAI는 개발 기간이 1년도 채 되지 않은 곧 출시될 ChatGPT Enterprise를 발표했습니다. 많은 새로운 "엔터프라이즈" AI 도구가 감독이나 규제 없이 급히 시장에 진입하고 있으므로 추가적인 위험과 불확실성으로부터 조직을 보호하기 위해 공급업체 선택 시 주의를 기울이십시오.

생성적 AI 솔루션 선택 시 고려 사항

어떤 옵션을 추구하든 AI 기반 콘텐츠 제작에 대한 책임감 있는 접근 방식을 만드는 것이 필수적입니다.이런 맥락에서 하지 말아야 할 일을 설명하는 많은 기사가 있으므로 대신 마케팅 담당자를 위한 네 가지 DO를 공유하고 싶습니다.

보안을 심각하게 생각하십시오.

이는 명백해 보일 수 있지만 그럼에도 불구하고 이를 외치는 것이 중요합니다. 독점 및 기업용 도구는 생성 AI 모델을 활용하기 위한 가장 안전하고 통제된 환경을 제공하는 경향이 있습니다. 사용자 액세스 및 데이터 개인 정보 보호에 대한 고급 제어 기능을 갖춘 이러한 옵션은 조직의 인프라 내에 민감한 데이터를 포함하고 불법적이거나 원치 않는 제3자 노출로부터 사용자를 보호하는 데 도움이 됩니다.

예를 들어 Skyword의 AI 기반 콘텐츠 엔진 ATOMM은 귀하의 독점 정보가 AI 훈련 모델에 저장, 노출 또는 사용되지 않도록 보장합니다. 이와 대조적으로 OpenAI의 ChatGPT 인터페이스는 기본적으로 채팅 기록을 포함한 입력 데이터를 저장하며 회사는 이 정보를 사용하여 모델을 훈련하고 개선할 수 있습니다.

솔루션 주소를 확인하세요.

• 사용자 액세스를 안전하게 관리하고 무단 액세스를 방지하는 방법
• 알고리즘 교육을 포함하여 데이터 입력 및 IP를 저장하고 처리하는 방법
• 브랜드 오용과 외부 공격으로부터 브랜드를 보호하기 위해 어떤 보호 장치가 마련되어 있나요?

고객의 최선의 이익을 위해 행동하십시오.

대부분의 기업에서 콘텐츠 제작을 빠르게 확장해야 하는 필요성은 생성 AI 도입의 가장 큰 동인입니다. 그러나 이를 달성하는 데 고객 경험이 희생된다면 완전히 비생산적입니다.

2013년에 Velocity Partners는Crap Content라는 제목의 바이러스성 Slideshare를 게시했습니다 . 페이지를 넘기려면 아래에 포함되어 있지만 핵심 요약은 다음과 같습니다.

콘텐츠 마케팅이 시작되자 모두가 경쟁력을 유지하기 위해 최대한 많은 콘텐츠를 만들기 위해 뛰어들었습니다. 하지만...그들은 그렇지 않았습니다.

양질의 콘텐츠를 만들 수 있는 대역폭이나 적절한 리소스가 없었기 때문에 그들이 한 일은 구매자를 압도하는 소음으로 시장을 포화시켰을 뿐이고 의도한 것과 정반대의 일을 했습니다.

당시 뛰어난 기업들은 방문객과 구매자에게 부가가치가 높은 콘텐츠와 정보를 제공하는 콘텐츠 브랜드를 구축했습니다. 오늘날에도 마찬가지입니다.

공용 생성 AI 도구의 주류 가용성은 쓰레기 콘텐츠의 새로운 시대를 열 것으로 위협하고 있습니다. 한편, 접근성이 뛰어나고 유용하며 관련성이 높은 콘텐츠에 대한 고객의 기대치는 더욱 높습니다.

솔루션 접근 방식의 목표는 더 많은 콘텐츠를 만드는 것이 되어서는 안 됩니다. 현재 제작하는 것보다 우수한 품질이나 더 큰 전략적 가치를 지닌 콘텐츠를 만들어야 합니다. 현재로서는 생성 AI를 사용하여 고품질의 독창적이고 진정한 콘텐츠를 생성하는 가장 신뢰할 수 있는 방법은 이를 적절하게 조정할 수 있는 인간 제작자 및/또는 주제 전문가와 협력하여 이를 활용하는 것입니다.

이전 게시물에서 우리는 생성 AI 솔루션과 다른 솔루션이 인간 창조물에 고유한 가치를 추가할 수 있는 다양한 방법을 간략하게 설명했습니다.

솔루션 주소를 확인하세요.

• 장기 생존 가능성. 귀하의 솔루션은 운영상의 반창고입니까, 아니면 콘텐츠 경쟁과 고객 요구 사항이 발전함에 따라 경쟁 우위를 제공합니까?
• 콘텐츠의 출처와 독창성. 귀하의 콘텐츠가 단독으로 또는 주로 인간에 의해 생성되지 않는 한 저작권이 보호되지 않는다는 점을 기억하십시오.
• 잠재고객 및 브랜드 맞춤화에 대한 필요성, 게시되는 유사한 AI 생성 정보의 잠재적 풍부함과 귀하의 콘텐츠가 차별화되도록 보장

책임을 져야 합니다.

독점 시스템을 구축하는 경우 AI 모델의 개발, 교육 프로세스 및 배포에 대한 포괄적인 문서를 유지하여 모델 생성 방법, 데이터 사용 방법 및 의사 결정 논리에 대한 통찰력을 제공하는 것은 사용자의 몫입니다.

한편, 외부 도구를 사용하여 콘텐츠를 생성하려면 신중한 비상 계획이 필요합니다. 소시지가 어떻게 만들어지는지, AI 시스템이 실수로 부정확하거나 잠재적으로 유해한 결과를 생성하는 상황을 처리하기 위해 어떤 전략이 마련되어 있는지 궁금하세요.

생성 AI를 효과적으로 사용하려면 인간의 일관된 감독이 중요하지만, 많은 기술 공급업체가 엔터프라이즈 라이선스를 넘겨주고 이러한 종류의 감독을 사용자에게 맡길 것이라는 점에 유의하세요.

마지막으로 원하는 것은 마케팅 담당자가 프런트 엔드에서 시간을 절약하고 백엔드에서 편집 및 사실 확인의 블랙홀에 빠져들게 하는 솔루션을 배포하는 것입니다.

이러한 이유로 당사의 솔루션은 생성 AI를 활용하여 인간 전문가가 작성한 콘텐츠를 조정 한 후 사내 편집팀에 보내 품질, 정확성 및 신뢰성을 검토합니다.

견고한 엔터프라이즈 파트너는 팀이 콘텐츠를 개발하는 동시에 데이터 거버넌스를 관리하고 이상적으로는 지속적인 모니터링 및 감사, 모델 내부 검사, 사람의 감독 및 개입을 제공하여 귀중한 시간을 절약하고 오류 위험을 크게 줄이는 데 도움을 줄 것입니다.

솔루션 주소를 확인하세요.

• 품질 보증/사람의 감독을 관리하는 방법
• 브랜드 규정 준수 책임은 누구에게 있습니까?
• 콘텐츠 입력 및 출력의 신뢰성에 대한 책임은 누구에게 있습니까?
• 기술이 발전함에 따라 지속적인 최적화가 어떻게 처리될 것인가

접근 방식의 확장성을 검증하세요.

한 조직에서는 확장 가능한 기능이 다른 조직에서는 그렇지 않을 수도 있습니다. 여기서 반드시 지켜야 할 규칙은 솔루션 접근 방식이 적어도 중기적으로는 조직과 함께 발전할 수 있을 만큼 유연하고 지속 가능하도록 하는 것입니다.

조직의 개별 영역에서 활용될 임시 프로세스 또는 절차를 도입하고 있습니까? 아니면 기업 혁신을 향한 길을 안내하는 도구 또는 기술 기반 프로세스인 빌딩 블록을 제자리에 배치하고 있습니까?

생성적 AI를 통해 창의성과 생산성이 향상된다는 매력은 매력적입니다. 그러나 점진적인 생산성 향상을 추구하는 것과 AI를 활용하여 콘텐츠의 가치를 실제로 향상하고 의미 있는 도달 범위를 달성하며 지속적인 참여 증가를 보장하는 것 사이에는 미묘한 균형이 있습니다.

솔루션 주소를 확인하세요.

• 시간이 지남에 따라 더 많은 수의 팀과 사용 사례에 걸쳐 지속적으로 사용을 확장할 수 있는 잠재력
• 일관되고 광범위한 조직 채택을 보장하기 위해 마련된 지원 메커니즘
• 최우선 순위 사용 사례와 관련된 솔루션 파트너의 기본 전문 지식
• 사내 개발자 또는 외부 파트너가 생성 AI 기능을 발전시켜야 하는 헌신의 수준

다음 개척지

수용 여부에 관계없이 우리 모두가 AI 중심 변혁의 길에 있다는 사실을 인식하는 것이 중요합니다.

궁극적으로 리더와 후발자를 구분하는 것은 포스트 AI 시대의 마케팅 미래를 위해 우리 팀과 조직을 준비할 책임을 지는 것입니다.

마케팅 분야에서 이보다 더 흥미로운 때는 없었습니다. 순간을 음미하고 자신감을 갖고 미래를 향해 나아가자.

올해 귀하의 조직에서는 생성적 AI가 우선순위입니까? 나에게 라인을 드롭. 저는 도와드리려고 왔습니다.

Adobe Stock에서 master1305가 제공한 주요 이미지.