Prompt Fuzzer 新版本发布：更强大、更灵活的 GenAI 应用安全评估工具

Prompt Security 发布了新版 Prompt Fuzzer，这是一个开源的交互式工具，用于评估和增强 GenAI 应用的系统提示安全性。

新版本的主要改进包括：

• 自定义基准测试接口：用户可以使用自己的基准测试集来评估系统提示的安全性，提高了测试的灵活性和针对性。
• 子集测试接口：用户可以选择运行部分测试用例，提高了测试效率，方便针对特定问题进行修复。
• 改进的响应相似度评估：*通过比较实际响应和预期响应的相似度来评估测试结果，提高了测试的准确性。
• Google Colab 笔记本：提供了一个结构化的流程，方便用户进行系统提示的fuzzing、修复、回归测试等操作。

Prompt Fuzzer 可以帮助开发者：

• 评估 GenAI 应用系统提示的安全性，识别潜在的漏洞。
• 通过迭代测试和修复，增强系统提示的安全性。
• 将安全测试集成到 GenAI 应用的开发流程中。

Prompt Security 致力于推动 GenAI 的安全应用，并鼓励开发者积极使用和改进 Prompt Fuzzer。

来源：

https://www.prompt.security/blog/now-available-a-new-version-of-prompt-fuzzer-the-first-interactive-open-source-tool-for-genai-apps-vulnerability-assessment

Windows 会在更新时进行时间调整以减少碳排放

微软的 PowerGridForecast API 现已对开发者开放！它可以预测电网碳排放，帮助你的应用/游戏在碳排放低的时候进行更新，或者在用户不活跃的时候进行资源密集型操作，从而减少碳足迹。快来试试吧！

• 功能：
  • 提供电网碳排放预测，帮助开发者优化应用程序，降低碳排放。
  • 提供两个主要信号：
    • Severity: 表示电网碳排放强度的标准化值（0.0 到 1.0），0 最佳，1 最差。
    • IsLowUserExperienceImpact: 布尔值，表示用户是否正在使用设备。
• 应用场景：
  • 根据预测的时间段，调整应用程序的更新时间，例如在低碳排放时段进行更新。
  • 在高碳排放时段，降低应用程序的资源消耗，例如降低音频比特率或渲染精度。
  • 在用户不活跃时段，启用应用程序的“节能模式”。
• 代码示例：
  • 提供了 C# 和 C++ 代码示例，演示如何获取电网预测数据、查找最佳工作时间段以及监听预测更新事件。

using Windows.Devices.Power;

void PrintBestTimes(PowerGridForecast forecast)
{
    double bestSeverity = double.MaxValue;
    double bestLowImpactSeverity = double.MaxValue;
    DateTime bestTime = DateTime.MaxValue;
    DateTime bestLowImpactTime = DateTime.MaxValue;
    TimeSpan blockDuration = forecast.BlockDuration;
    DateTime startTime = forecast.StartTime;
    IList<PowerGridData> forecastSignals = forecast.Forecast;

    if (forecastSignals.Count == 0)
    {
        Console.WriteLine("Error encountered with getting forecast; try again later.");
        return;
    }

    foreach (PowerGridData data in forecastSignals)
    {
        if (data.Severity < bestSeverity)
        {
            bestSeverity = data.Severity;
            bestTime = startTime;
        }

        if (data.IsLowUserExperienceImpact && data.Severity < bestLowImpactSeverity)
        {
            bestLowImpactSeverity = data.Severity;
            bestLowImpactTime = startTime;
        }

        startTime = startTime + blockDuration;
    }

    if (bestLowImpactTime != DateTime.MaxValue)
    {
        DateTime endBestLowImpactTime = bestLowImpactTime + blockDuration;
        Console.WriteLine($"Lowest severity during low impact is {bestLowImpactSeverity}, which starts at {bestLowImpactTime.ToString()}, and ends at {endBestLowImpactTime}.");
    }
    else
    {
        Console.WriteLine("There's no low-user-impact time in which to do work.");
    }

    if (bestTime != DateTime.MaxValue)
    {
        DateTime endBestSeverity = bestTime + blockDuration;
        Console.WriteLine($"Lowest severity is {bestSeverity}, which starts at {bestTime.ToString()}, and ends at {endBestSeverity.ToString()}.");
    }
}

PowerGridForecast forecast = PowerGridForecast.GetForecast();
PrintBestTimes(forecast);

PowerGridForecast 类为开发者提供了一种有效的方式，可以利用电网碳排放预测信息来优化应用程序，从而实现节能减排的目标。

来源：

https://learn.microsoft.com/zh-cn/uwp/api/windows.devices.power.powergridforecast?view=winrt-26100

---

如对以上的代码示例感兴趣，可以结合 AI 进一步探索：

#  从指定的 .c文件获取数据，使用 Google Gemini AI 进行分析
x cat save_power.c | @gemini '代码主要的功能是什么？'

进一步探索:

除了使用 Google Gemini AI 模型，还可以使用 OpenAI、Mistral 和 Kimi 等 AI 模型。

• https://cn.x-cmd.com/mod/gemini
• https://cn.x-cmd.com/mod/openai
• https://cn.x-cmd.com/mod/mistral
• https://cn.x-cmd.com/mod/moonshot

更多内容请查阅 : blog-240803

---

关注微信官方公众号 : oh my x

获取开源软件和 x-cmd 最新用法