حاجز الهلوسة

from crewai.tasks.hallucination_guardrail import HallucinationGuardrail
from crewai import LLM

# الاستخدام الأساسي - سيستخدم expected_output للمهمة كسياق
guardrail = HallucinationGuardrail(
    llm=LLM(model="gpt-4o-mini")
)

# مع سياق مرجعي صريح
context_guardrail = HallucinationGuardrail(
    context="AI helps with various tasks including analysis and generation.",
    llm=LLM(model="gpt-4o-mini")
)

from crewai import Task

# إنشاء مهمتك مع الحاجز
task = Task(
    description="Write a summary about AI capabilities",
    expected_output="A factual summary based on the provided context",
    agent=my_agent,
    guardrail=guardrail  # إضافة الحاجز للتحقق من المخرجات
)

# حاجز صارم يتطلب درجة أمانة عالية
strict_guardrail = HallucinationGuardrail(
    context="Quantum computing uses qubits that exist in superposition states.",
    llm=LLM(model="gpt-4o-mini"),
    threshold=8.0  # يتطلب درجة >= 8 لاجتياز التحقق
)

# حاجز مع سياق استجابة الأدوات
weather_guardrail = HallucinationGuardrail(
    context="Current weather information for the requested location",
    llm=LLM(model="gpt-4o-mini"),
    tool_response="Weather API returned: Temperature 22°C, Humidity 65%, Clear skies"
)

# مثال على هيكل نتيجة الحاجز
{
    "valid": False,
    "feedback": "Content appears to be hallucinated (score: 4.2/10, verdict: HALLUCINATED). The output contains information not supported by the provided context."
}

# تدفق التحقق من مخرجات المهمة
task_output = agent.execute_task(task)
validation_result = guardrail(task_output)

if validation_result.valid:
    # المهمة تكتمل بنجاح
    return task_output
else:
    # المهمة تفشل مع ملاحظات التحقق
    raise ValidationError(validation_result.feedback)