Palantir AIP empowers organizations to use large language models and other cutting-edge AI safely and securely. The platform allows you to do three things. First, AIP lets you deploy large language models and any other AI within your private network, anchored in your private data.

It helps you create a full-fidelity, real-time representation of all the concepts, actions, and decisions within your business—every truck, every warehouse, every shipment, every delay—that can then be used by AI.

Second, it enables you to define the ground rules around which data, LLMs, and AI can and cannot see, and what they can and cannot do on behalf of humans.

You can do this based on data sensitivity, laws and regulations, and competencies of the model.

AIP provides the framework for AI to hand off tasks to other trusted task-specific models, as well as to trusted humans. Finally, with this great power comes great responsibility. AIP brings industry-leading guardrails to control, govern, and trust the AI-powered business of tomorrow.

AIP automatically captures a full digital footprint of all AI inputs, outputs, and actions, including which AI was used for which decision, which humans were in the loop, and how they align with specific business purposes.

In this demo, let's say you're a leader at a US-based manufacturing company with customers all over the country. You've just received an alert that a hurricane is forecasted to hit one of your major distribution centers in the South, and you'll need to shut it down.

You want to know whether you should accelerate, delay, or cancel orders to your customers and other remediations you can take.

Here in AIP Terminal, you can ask questions and collaborate with a large language model, or LLM. "To what extent will Hurricane Cynthia affect our distribution centers in Louisiana?

" as well as follow-ups, "How does this impact customer orders and associated revenue?" Under the hood, as you ask questions, the LLM is able to traverse a data foundation powered by real-time data feeds from all across your business.

Importantly, you can control which parts of the business the LLM has access to. For example, we can see here that although the data foundation contains employee-level PII data the LLM can't see or access that data.

This has been informative. You want to understand your options and take action. You can ask AIP to simulate a baseline scenario.

What would happen if we shut down the affected Distribution Center? It uses a transportation network optimizer model and shows you the impact on backlogs, revenue, and commitments and highlights the impact on your highest priority customers.

You can also see which specific orders can be seamlessly fulfilled by other distribution centers.

This is a good start, but you want to do more. You want to know if you should charter additional trucks to increase the volume of deliveries before and after the closure. What are some options for chartering additional transportation for order fulfillment and the impact?

AIP offers three simulated courses of action alongside estimated cost.

Option B, a 20-truck capacity increase, seems to have the best cost-benefit trade-off, and your highest priority orders will all be taken care of. After validating it further, you propose your plan for cross-functional sign-off for manufacturing, supply chain, and customer service stakeholders.

Let's look under the hood again. Many of these steps required a deep understanding of how your business works.

LLMs alone don't have the right context, and we definitely don't want the LLM to give answers not grounded in reality. AIP connects LLMs with trusted models across your business, including forecasting, optimization, machine learning, and standard procedures.

AIP then facilitates a secure handoff between these models as needed, which keeps each model in its own lane.

This lets you then use the LLM plus all of your other models in concert, safely, to enable reasoning through the different scenarios and courses of action.

All stakeholders have approved your plan, and you now want your operational team to get cracking. Much of the chartering and rerouting has already happened through automation as you authorized. The customer consent for early deliveries as they make decisions and updates.

Routing and optimization models rerun autonomously on their behalf within the limits around key KPIs.

As decisions are made, they are continually pushed to your operational systems, triggering real-world action. They're also logged for future review. Let's go under the hood one last time and look at what enables your organization to safely govern LLMs and other AI to assist you through scenarios such as this one.

Here in the AIP control panel, you can set the guardrails and limits per model, including which data objects they can see, which actions they can recommend or take on behalf of humans, which tasks and workflows they are trusted to drive, who can use them, how cost is attributed, and so on.

You and your organization have formed an optimal, multi-pronged plan of attack that are taking real-world action within minutes, all using natural language within AIP, without a single line of code.

Introducing Palantir AIP | Capabilities and Product Demo

Palantir builds software that solves problems. We work with organizations across industries to transform how they use data and technology.

Learn more at https://www.palantir.com/.

Palantir

Palantir AIP는 LLM 및 기타 AI 모델을 기업의 실제 데이터와 연결하여 개인 네트워크 내에서 안전하게 배포하고, 비즈니스 운영에 대한 실시간 통찰력을 제공하며, 데이터 접근 및 작업 수행에 대한 규칙을 정의합니다.

AIP는 AI가 예측, 최적화 모델 등 비즈니스 전반의 신뢰할 수 있는 모델과 연동되도록 하여, AI가 현실에 기반한 답변을 제공하고 다양한 시나리오와 조치 과정을 추론할 수 있도록 지원합니다.

AIP는 모든 AI 입력, 출력 및 작업에 대한 완전한 디지털 기록을 자동으로 캡처하여 AI 결정의 투명성과 책임성을 보장하고, 모델별 보호 장치 및 제한 설정을 통해 안전한 AI 관리를 가능하게 합니다.

Palantir AIP는 **조직이 대규모 언어 모델(LLM)과 최첨단 AI를 안전하게 사용할 수 있도록 지원**하는 플랫폼입니다. 이 플랫폼은 세 가지 핵심 기능을 제공합니다. 첫째, AIP는 개인 데이터에 고정된 개인 네트워크 내에서 LLM 및 기타 AI를 배포할 수 있게 하며, AI가 활용할 수 있는 모든 개념, 행동 및 의사 결정에 대한 실시간 표현을 만듭니다.

둘째, AIP는 AI가 접근할 수 있는 데이터와 인간을 대신하여 수행할 수 있는 작업에 대한 **기본 규칙을 정의할 수 있도록 지원**합니다. 이는 데이터 민감도, 법률 및 규정, 모델의 역량을 기반으로 이루어지며, AI가 다른 신뢰할 수 있는 모델이나 사람에게 작업을 넘길 수 있는 프레임워크를 제공합니다.

마지막으로, AIP는 AI 기반 비즈니스를 **제어, 관리 및 신뢰할 수 있도록 업계 최고의 안전 장치를 제공**합니다. AIP는 모든 AI 입력, 출력 및 작업에 대한 전체 디지털 발자국을 자동으로 캡처하여 어떤 AI가 어떤 결정에 사용되었는지, 관련 인력, 그리고 비즈니스 목적과의 일치 여부를 추적합니다.

허리케인 시나리오: AIP 활용 데모

데모에서는 미국 제조 회사의 리더가 허리케인으로 인해 남부의 주요 유통 센터를 폐쇄해야 하는 상황에 직면합니다. 리더는 **고객 주문 처리 및 잠재적 해결책에 대한 정보를 얻기 위해** AIP 터미널을 사용합니다.

AIP 터미널에서 리더는 LLM과 협업하여 허리케인의 영향과 고객 주문 및 수익에 미치는 영향을 질문합니다. LLM은 **비즈니스 전반의 실시간 데이터 피드로 구동되는 데이터 기반을 탐색**하며, LLM이 액세스할 수 있는 비즈니스 부분을 통제할 수 있어 민감한 직원 PII 데이터 등은 접근할 수 없습니다.

시나리오 시뮬레이션 및 해결책 모색

AIP에 기준 시나리오를 시뮬레이션하도록 요청하여 유통 센터 폐쇄 시 백로그, 수익, 약정 및 최우선 고객에게 미치는 영향을 파악합니다. 운송 네트워크 최적화 모델을 사용하여 **어떤 주문이 다른 유통 센터에서 처리될 수 있는지 확인**합니다.

나아가, AIP에 폐쇄 전후에 **배송량을 늘리기 위한 추가 트럭 전세 옵션과 그 영향을 질의**합니다. AIP는 예상 비용과 함께 세 가지 시뮬레이션된 조치 과정을 제공하며, 옵션 B(20대 트럭 용량 증대)가 최우선 주문을 모두 처리하면서 가장 비용 효율적인 것으로 나타납니다.

AIP는 LLM을 예측, 최적화, 머신 러닝 및 표준 절차를 포함한 **비즈니스 전반의 신뢰할 수 있는 모델과 연결**하여 LLM이 현실에 기반하지 않은 답변을 제공하는 것을 방지합니다. 이러한 모델 간의 안전한 핸드오프를 통해 다양한 시나리오와 조치 과정을 안전하게 추론할 수 있습니다.

모든 이해관계자의 승인을 받은 후, **자동화를 통해 많은 전세 및 경로 재지정이 이루어지며**, 고객은 조기 배송에 동의합니다. 라우팅 및 최적화 모델은 주요 KPI를 중심으로 자율적으로 다시 실행됩니다. 결정은 지속적으로 운영 시스템으로 푸시되어 실제 작업을 트리거하고 기록됩니다.

AIP 제어판에서는 **모델별로 보호 장치와 제한을 설정**할 수 있습니다. 여기에는 데이터 개체 가시성, 작업 권장 또는 수행 권한, 신뢰할 수 있는 작업 및 워크플로, 사용자 및 비용 책정 등이 포함됩니다. 이를 통해 조직은 LLM 및 기타 AI를 안전하게 관리하여 복잡한 시나리오를 지원하고, 단 한 줄의 코드 없이 자연어를 사용하여 최적의 다각적인 공격 계획을 수립하고 실행할 수 있습니다.

Palantir AIP가 조직이 대규모 언어 모델(LLM) 및 기타 AI를 안전하고 효과적으로 활용할 수 있도록 지원하는 세 가지 핵심 기능은 무엇인가요?

허리케인 시나리오 데모에서 Palantir AIP는 유통 센터 폐쇄로 인한 영향을 평가하고 최적의 해결책을 찾는 데 어떤 방식으로 기여했나요?

Palantir AIP가 LLM이 현실에 기반하지 않은 답변을 제공하는 것을 방지하기 위해 사용하는 주요 메커니즘은 무엇이며, 이는 어떻게 다른 비즈니스 모델과 통합되나요?

Palantir AIP는 AI 기반 비즈니스의 제어, 관리 및 신뢰를 보장하기 위해 어떤 안전 장치를 제공하며, 모든 AI 활동의 디지털 발자국을 어떻게 캡처하나요?

AIP 제어판에서 모델별로 보호 장치와 제한을 설정할 때 고려할 수 있는 주요 요소들은 무엇인가요?

Palantir AIP는 조직이 대규모 언어 모델과 기타 최첨단 AI를 안전하고 안전하게 사용할 수 있도록 지원합니다. 이 플랫폼을 통해 세 가지 작업을 수행할 수 있습니다. 첫째, AIP를 사용하면 개인 데이터에 고정된 개인 네트워크 내에서 대규모 언어 모델과 기타 모든 AI를 배포할 수 있습니다.

AI가 사용할 수 있는 모든 개념, 행동 및 의사 결정(모든 트럭, 모든 창고, 모든 배송, 모든 지연)에 대한 완전한 충실도의 실시간 표현을 만드는 데 도움이 됩니다.

둘째, 데이터, LLM 및 AI가 보고 접근할 수 있는 데이터와 인간을 대신하여 수행할 수 있는 작업에 대한 기본 규칙을 정의할 수 있습니다.

데이터 민감도, 법률 및 규정, 모델의 역량을 기반으로 이를 수행할 수 있습니다.

AIP는 AI가 다른 신뢰할 수 있는 작업별 모델과 신뢰할 수 있는 사람에게 작업을 넘길 수 있는 프레임워크를 제공합니다. 마지막으로, 이 큰 힘에는 큰 책임이 따릅니다. AIP는 미래의 AI 기반 비즈니스를 제어, 관리 및 신뢰할 수 있도록 업계 최고의 안전 장치를 제공합니다.

AIP는 어떤 AI가 어떤 결정에 사용되었는지, 어떤 사람이 관련되었는지, 특정 비즈니스 목적과 어떻게 일치하는지 등 모든 AI 입력, 출력 및 작업에 대한 전체 디지털 발자국을 자동으로 캡처합니다.

실제로 어떻게 작동하는지 살펴봅시다.

이 데모에서는 미국에 본사를 둔 제조 회사의 리더이고 전국에 고객이 있다고 가정해 보겠습니다. 허리케인이 남부의 주요 유통 센터 중 한 곳을 강타할 것으로 예상된다는 경고를 받았고, 유통 센터를 폐쇄해야 합니다.

고객에게 주문을 가속화, 지연 또는 취소해야 하는지, 그리고 취할 수 있는 다른 해결 방법이 있는지 알고 싶습니다.

여기 AIP 터미널에서 질문하고 대규모 언어 모델(LLM)과 협업할 수 있습니다. "허리케인 신시아가 루이지애나의 유통 센터에 어느 정도 영향을 미칠까요?

"는 물론 "이것이 고객 주문 및 관련 수익에 미치는 영향은 무엇입니까?"와 같은 후속 질문도 할 수 있습니다. 내부적으로 질문을 하면 LLM은 비즈니스 전반의 실시간 데이터 피드로 구동되는 데이터 기반을 탐색할 수 있습니다.

중요한 것은 LLM이 액세스할 수 있는 비즈니스 부분을 제어할 수 있다는 것입니다. 예를 들어 데이터 기반에 직원 수준의 PII 데이터가 포함되어 있지만 LLM은 해당 데이터를 보거나 액세스할 수 없습니다.

지금까지 설명이었습니다. 이제 옵션을 이해하고 조치를 취하고 싶을 겁니다. AIP에 기준 시나리오를 시뮬레이션하도록 요청할 수 있습니다.

해당 유통 센터를 폐쇄하면 어떻게 될까요? 운송 네트워크 최적화 모델을 사용하여 백로그, 수익 및 약정에 미치는 영향을 보여주고 최우선 고객에게 미치는 영향을 강조합니다.

어떤 특정 주문이 다른 유통 센터에서 원활하게 처리될 수 있는지 확인할 수도 있습니다.

이것도 좋은 시작이지만, 더 많은 것을 하고 싶을 겁니다. 폐쇄 전후에 배송량을 늘리기 위해 추가 트럭을 전세 내야 하는지 알고 싶을 겁니다. 주문 처리를 위해 추가 운송을 전세 내는 데 대한 몇 가지 옵션과 영향은 무엇일까요?

AIP는 예상 비용과 함께 세 가지 시뮬레이션된 조치 과정을 제공합니다.

20대 트럭 용량을 늘리는 옵션 B가 비용 편익 절충이 가장 좋고 최우선 주문은 모두 처리될 것입니다. 추가 검증 후 제조, 공급망 및 고객 서비스 이해 관계자를 위한 교차 기능 승인을 위한 계획을 제안합니다.

다시 한번 내부를 살펴봅시다. 이러한 단계 중 상당수는 비즈니스가 어떻게 작동하는지에 대한 깊은 이해가 필요했습니다.

LLM만으로는 올바른 컨텍스트를 알 수 없으며 LLM이 현실에 기반하지 않은 답변을 제공하는 것을 원하지 않습니다. AIP는 LLM을 예측, 최적화, 머신 러닝 및 표준 절차를 포함하여 비즈니스 전반의 신뢰할 수 있는 모델과 연결합니다.

그런 다음 AIP는 필요에 따라 이러한 모델 간의 안전한 핸드오프를 용이하게 하여 각 모델을 자체 레인에 유지합니다.

이를 통해 LLM과 다른 모든 모델을 안전하게 함께 사용하여 다양한 시나리오와 조치 과정을 추론할 수 있습니다.

모든 이해 관계자가 귀하의 계획을 승인했으며 이제 운영 팀이 시작하기를 원합니다. 귀하가 승인한 대로 자동화를 통해 많은 전세 및 경로 재지정이 이미 발생했습니다. 고객은 결정을 내리고 업데이트할 때 조기 배송에 동의합니다.

라우팅 및 최적화 모델은 주요 KPI를 중심으로 자율적으로 다시 실행됩니다.

결정이 내려지면 지속적으로 운영 시스템으로 푸시되어 실제 작업을 트리거합니다. 또한 향후 검토를 위해 기록됩니다. 마지막으로 내부를 살펴보고 조직이 LLM 및 기타 AI를 안전하게 관리하여 이와 같은 시나리오를 지원할 수 있도록 하는 요소를 살펴보겠습니다.

AIP 제어판에서는 모델별로 보호 장치와 제한을 설정할 수 있습니다. 여기에는 어떤 데이터 개체를 볼 수 있는지, 어떤 작업을 권장하거나 사람을 대신하여 수행할 수 있는지, 어떤 작업과 워크플로를 추진하도록 신뢰할 수 있는지, 누가 사용할 수 있는지, 비용이 어떻게 책정되는지 등이 포함됩니다.

귀하와 귀하의 조직은 최적의 다각적인 공격 계획을 수립하여 단 한 줄의 코드도 없이 AIP 내에서 자연어를 사용하여 몇 분 안에 실제 작업을 수행할 수 있습니다.

Palantir AIP는 조직이 대규모 언어 모델과 최첨단 AI를 안전하게 사용할 수 있도록 지원하며, 개인 데이터에 고정된 개인 네트워크 내에서 AI를 배포합니다.

AI가 활용할 수 있는 모든 개념, 행동 및 의사 결정에 대한 실시간 표현을 생성합니다.

데이터, LLM 및 AI가 접근할 수 있는 데이터와 인간을 대신하여 수행할 수 있는 작업에 대한 기본 규칙을 정의할 수 있습니다.

AIP는 AI가 다른 신뢰할 수 있는 모델과 사람에게 작업을 넘길 수 있는 프레임워크를 제공하며, AI 기반 비즈니스를 제어, 관리 및 신뢰할 수 있도록 안전 장치를 제공합니다.

AIP는 모든 AI 입력, 출력 및 작업에 대한 전체 디지털 발자국을 자동으로 캡처합니다.

AIP 실제 시나리오 데모: 허리케인 대응

허리케인이 유통 센터를 강타할 경우 고객 주문 가속화, 지연 또는 취소 여부와 해결 방법을 파악하는 시나리오를 제시합니다.

AIP 터미널에서 허리케인의 영향과 고객 주문 및 수익에 미치는 영향에 대한 질문을 통해 LLM과 협업합니다.

LLM은 실시간 데이터 피드를 탐색하지만, 접근할 수 있는 비즈니스 부분은 제어할 수 있어 직원 개인 식별 정보(PII) 데이터는 접근하지 못합니다.

AIP에 기준 시나리오 시뮬레이션을 요청하여 유통 센터 폐쇄 시 백로그, 수익 및 약정에 미치는 영향을 분석합니다.

폐쇄 전후 배송량 증가를 위한 추가 트럭 전세 옵션과 그 영향을 질의합니다.

AIP는 예상 비용과 함께 세 가지 시뮬레이션된 조치 과정을 제공하며, 옵션 B가 최적의 비용 편익 절충을 보였습니다.

추가 검증 후 제조, 공급망 및 고객 서비스 이해 관계자를 위한 교차 기능 승인 계획을 제안합니다.

AIP의 AI 모델 통합 및 안전한 운영

AIP는 LLM을 예측, 최적화, 머신 러닝 및 표준 절차를 포함한 신뢰할 수 있는 비즈니스 모델과 연결합니다.

AIP는 필요에 따라 모델 간의 안전한 핸드오프를 용이하게 하여 각 모델을 자체 레인에 유지합니다.

이를 통해 LLM 및 다른 모든 모델을 안전하게 함께 사용하여 다양한 시나리오와 조치 과정을 추론할 수 있습니다.

모든 이해 관계자의 승인 후 자동화를 통해 전세 및 경로 재지정이 발생하며, 고객은 조기 배송에 동의합니다.

결정은 지속적으로 운영 시스템으로 푸시되어 실제 작업을 트리거하고 향후 검토를 위해 기록됩니다.

AIP 제어판에서는 어떤 데이터 개체를 볼 수 있는지, 어떤 작업을 수행할 수 있는지, 누가 사용할 수 있는지 등 모델별로 보호 장치와 제한을 설정할 수 있습니다.

AIP 내에서 자연어를 사용하여 코드 한 줄 없이 최적의 공격 계획을 수립하고 실제 작업을 수행할 수 있습니다.

Introducing Palantir AIP | Capabilities and Product Demo

Introducing Palantir AIP | Capabilities and Product Demo

스크립트