【CHI2023】设计交互的生成框架，以克服人类和不完美人工智能之间的差距，而不是提高人工智能的准确性

CHI 2023 的一个加长摘要

相关网址

URL：A Generative Framework for Designing Interactions to Overcome the Gaps between Humans and Imperfect AIs Instead of Improving the Accuracy of the AIs

简单记录一下对里面感兴趣的内容

  • AAAI '20：在STOP标志上贴上蛾状的贴纸会使自动驾驶汽车误将其识别为限速80的标牌。

  • 2000年的一篇IEEE Transactions on Systems, Man, and Cybernetics - Part A: Systems and Humans 提出了一个自动化交互框架：Parasuraman’s framework of automation

在这里插入图片描述
可以看出，从等级1到等级10，计算机提供的决策权限越来越高。作者使用的用于教学的系统中，采用信息获取和信息分析方面保持了10级，而在决策和行动选择以及行动实施方面表现出1级。

一些简单的想法

  • 对标牌加贴纸就可以让自动驾驶的视觉产生误判，这种视觉欺骗对以深度学习为基础的纯视觉导航+追踪任务的无人机是否会产生影响呢？
  • 在无人机相关的人机交互中，Parasuraman’s 的自动化模型是否能套用进来，或者是否能够进行改进？对于不同的情况，人产生的影响的比重会变化，无人机可以根据条件自主选择是否接受操作人的指令？但是这样又会有新的问题，如果环境中存在信息欺骗，是否无人机会脱离控制？这种情况需要设置某些强制手动的指令？