Microsoft Designer是一款基于Copilot / DALLE 3.0的视觉设计应用，为用户提供了便捷的设计解决方案。用户可以仅用几个提示词，让AI为他们生成所需的图像，同时还能帮助用户去除图片背景，生成个性化贴纸等。
不良内容问题
最近，一些特定的提示词如“pro-choice”、“four twenty”、“pro-life”等在使用Microsoft Designer时会导致生成一些涉及色情、暴力等不良内容的图片。为此，微软已经禁用了这些特定的提示词，以确保用户的安全和舒适。
AI责任指南
微软已经意识到并积极解决了Copilot生图功能可能存在的问题。AI工程师向联邦贸易委员会提交了检举信，对此进行了投诉。微软随后对Copilot进行了调整，确保其不会生成不良内容。
安全审查
微软表示他们正在不断监控、调整并采取额外的控制措施，以加强安全审查并减少对AI系统的滥用。这包括对可能导致不良内容生成的词汇进行限制，并确保AI系统不会生成可能伤害或冒犯他人的内容。
问题仍然存在
尽管微软已经采取了一些措施来防止不良内容的生成，但仍然存在一些问题。例如，“car accident”、“automobile accident”等词汇仍然可以正常使用，可能导致AI生成一些令人不安的图像。
尽管AI技术的发展为我们带来了许多便利，但我们也必须意识到其潜在的风险和挑战。微软正在努力改进其AI系统，确保其在设计和生成过程中遵循道德原则，并减少对用户的潜在伤害。
