安全初创公司 Knostic 是最新一家解决组织在采用生成人工智能 (AI) 工具时面临的各种挑战的公司。本周,Knostic 凭借 3.3 万美元的种子前资金脱颖而出,为大型语言模型 (LLM) 带来“需要知道”的访问控制。
企业在人工智能转型过程中正在将人工智能功能融入到整个工作流程和流程中,以提高生产力、降低成本并提高效率。 诺斯提克。企业正在采用法学硕士,根据自己的数据源或通过启用捆绑到他们已经使用的应用程序和平台中的功能来构建类似 ChatGPT 的企业搜索系统。埃夫伦表示,数据隐私是人工智能采用的最大障碍之一,他指出,没有控制的人工智能可能会使组织面临更大的风险,主要是将信息暴露给错误的人。
“我们如何才能策划个性化信息并真正为您提供价值——用您需要知道的内容来回答,而不仅仅是说一些东西?”埃夫隆说。
法学硕士的访问控制是必要的
借助 Knostic,员工可以访问他们需要的内容并获得与他们执行工作所需的信息一致的答案。
例如,组织可以拥有一个系统来回答诸如下一个产品版本中预期的功能、最新的销售数字和收入数据、奖金结构、并购场景中的尽职调查结果或某个项目的状态等问题。基础设施项目。但并不是每个人对每个问题都应该得到相同的答案。埃夫龙指出,虽然首席财务官和首席技术官需要了解季度销售收入,但营销实习生可能不需要了解。
Knostic 的访问控制引擎会考虑答案是否适合提问者的角色;如果不是,它会回答:“抱歉,这是机密信息,”埃夫隆说。或者,系统不仅可以说“不”,还可以回应说,尽管答案是保密的,但实习生从事的营销活动在该季度提高了销售额。这就是个性化和策划的用武之地。
埃夫伦强调访问控制是二元的——要么人可以访问,要么不能。诺斯蒂克对“需要知道”的关注使得即使答案是否定的,也可以提供一些信息。
“当我们说“不”时,我们就没有为业务提供支持,”埃夫龙说,并指出以不同格式或相关上下文提供信息对业务用户的帮助不仅仅是被告知“不”。 “一旦你弄清楚你可以知道什么,你就可以解决 DLP [数据丢失防护] 和 IAM [身份访问管理] 问题。”
“需要知道”是什么样的
Knostic 的联合创始人 Sounil Yu 表示,在考虑访问控制时,组织需要考虑诸如系统是内部系统还是面向公众的系统、用于生成响应的数据是否敏感以及提问者的角色等因素。创始人兼首席技术官。
关于组织需要如何在人工智能系统中构建护栏以防止滥用且不提供可能造成伤害的答案,已经有很多讨论。然而,余说,这种方法往往是一刀切的,没有考虑到一个人的具体情况。考虑一下有多少公开的聊天机器人不会提供医疗信息,因为它们不是医疗专业人员,不应该用于诊断。但如果医生试图在调查过程中获取信息,那么这种特定的限制就没有帮助。与护栏不同,访问控制会考虑时间、数据敏感性和人员角色等因素来确定如何形成答案。
例如,公司可能有一个客户服务聊天机器人,可以排除故障并协助解决常见问题。该聊天机器人将可以访问与客户服务代表相同的内部知识库文章。但是,如果市场上尚未提供有关产品的信息,会发生什么情况呢?客户服务代表需要在产品可用时准备好这些信息,甚至在培训之前就需要准备好这些信息。但如果客户在发布前从聊天机器人中了解有关产品的详细信息,该公司可能会遇到很多问题。
可以想象,公司可以使用 Knostic 的方法为客户和客户服务代表提供不同的答案,而不是创建两个系统(一个供内部使用,另一个面向公众)。
更多详情
Evron 和 Yu 拥有深厚的行业专业知识。 Evron 创立了网络欺骗公司 Cymmetria,此前曾在花旗银行和普华永道担任职务。 Yu 是美国银行前首席安全科学家、JupiterOne 前 CISO 和研究主管。
Knostic 成立于 2023 年,已从 Shield Capital、Pitango First、DNS Ventures、Seedcamp 和几家天使投资者那里筹集了 3.3 万美元的种子前融资。国家安全局前局长、诺斯蒂克咨询委员会成员、退役海军上将迈克·罗杰斯在一份声明中表示,这家初创公司将“为企业解锁法学硕士学位”。
Knostic 拥有多个行业的客户,包括零售和金融服务。也是入围决赛的前三名之一 2024 RSA 会议发射台,成立两年或更短时间的公司的创始人可以向风险投资家小组推销“即将成为下一个大事件”的想法和产品。今年的发射台将于 7 月 XNUMX 日星期二举行。
- :具有
- :是
- :不是
- :在哪里
- $3
- 2023
- 7
- a
- 关于
- 滥用
- ACCESS
- 访问管理
- 账号管理
- 横过
- 通
- 地址
- 采用
- 采用
- 采用
- advisory
- 顾问委员会
- 机构
- AI
- 人工智能的采用
- 人工智能系统
- 对齐
- 允许
- 已经
- 还
- 美国
- an
- 和
- 天使
- 天使投资人
- 回答
- 答案
- 应用领域
- 的途径
- 适当
- 保健
- 刊文
- 人造的
- 人工智能
- 人工智能(AI)
- AS
- 问
- 助攻
- At
- 可使用
- 银行
- Bank of America
- 障碍
- 基于
- BE
- 因为
- 很
- before
- 作为
- 大
- 最大
- 二进制
- 板
- 奖金
- 促进
- 提振
- 带来
- 带来
- 建立
- 捆绑
- 商业
- 但是
- by
- 活动
- CAN
- 不能
- 能力
- 资本
- 资本家
- 原因
- CEO
- CFO
- 挑战
- 聊天机器人
- 聊天机器人
- 首席
- 情况
- CISO
- 花旗银行
- 联合创始人
- 购买的订单均
- 相当常见
- 公司
- 公司
- 研讨会 首页
- 机密
- 考虑
- 考虑
- 上下文
- 控制
- 控制
- 成本
- 可以
- 创造
- 首席技术官
- 治愈
- 策展
- 尖点
- 顾客
- 客户服务
- 合作伙伴
- 网络
- data
- 数据丢失
- 防止数据丢失
- 数据隐私
- 欺骗
- 深
- 详情
- 确定
- 诊断
- 不同
- 勤勉
- 讨论
- DLP
- DNS
- 不
- 不会
- 两
- 效率
- 或
- 出现
- 强调
- 员工
- 使
- 发动机
- 企业
- 企业搜索
- 企业
- 醚(ETH)
- 甚至
- 所有的
- 每个人
- 例子
- 预期
- 专门知识
- 面部彩妆
- 因素
- 特征
- 数字
- 图
- 入围
- 金融
- 金融服务
- 融资
- 姓氏:
- 专注焦点
- 针对
- 格式
- 前
- 公司成立
- 创始人
- 止
- 资金
- 生成
- 生成的
- 得到
- 给
- 发生
- 伤害
- 有
- 头
- 保持
- 有帮助
- 帮助
- 创新中心
- How To
- 但是
- HTTPS
- i
- IAM
- 思路
- 身分
- if
- in
- 包含
- 成立
- 增加
- 增加
- 行业
- 行业中的应用:
- 信息
- 基础设施
- 代替
- 房源搜索
- 内部
- 成
- 调查
- 投资者
- 问题
- IT
- 工作机会
- 旅程
- JPG
- 木星一号
- 只是
- 知道
- 语言
- 大
- 最新
- 发射
- 可以学习
- 减
- 喜欢
- LOOKS
- 离
- 占地
- 制成
- 制作
- 颠覆性技术
- 许多
- 市场
- 营销
- 营销活动
- 可能..
- 医生
- 会员
- 麦克风
- 百万
- 模型
- 更多
- 许多
- National
- 国家安全
- 美国国家安全局
- 必要
- 需求
- 需要
- 下页
- 没有
- 注意
- 数字
- of
- on
- 一旦
- 一
- or
- 组织
- 组织
- 其他名称
- 输出
- 超过
- 己
- 垫
- 面板
- 部分
- 特别
- 员工
- 演出
- 人
- 个性化
- 个性化你的
- 医生
- 沥青
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 点
- 可能
- 可能
- 预种子
- 防止
- 预防
- 先前
- 主要
- 隐私
- 大概
- 问题
- 过程
- 产品
- 生产率
- 热销产品
- 专业人士
- 项目
- 提供
- 优
- 公然
- 目的
- 普华永道
- 季
- 题
- 有疑问吗?
- 凸
- 范围
- 准备
- 接收
- 减少
- 有关
- 释放
- 代表
- 要求
- 研究
- 回应
- 回复
- 限制
- 成果
- 零售
- 收入
- 风险
- 罗杰斯
- 角色
- 角色
- RSA
- 会议
- s
- 说
- 销售
- 同
- 对工资盗窃
- 说
- 说
- 脚本
- 科学家
- 搜索
- 保安
- 敏感
- 灵敏度
- 服务
- 特色服务
- 几个
- 形状
- Shield
- 应该
- 解决
- 一些
- 来源
- 具体的
- 启动
- 个人陈述
- Status
- Stealth
- 结构体
- 东西
- 这样
- 系统
- 产品
- T
- 采取
- 易于
- 比
- 这
- 信息
- 其
- 那里。
- 他们
- 事
- 思维
- Free Introduction
- 本星期
- 今年
- 虽然?
- 三
- 始终
- 次
- 至
- 告诉
- 工具
- 最佳
- 产品培训
- 转型
- 试图
- 周二
- 二
- 不像
- 开锁
- 使用
- 用过的
- 用户
- 运用
- 折扣值
- 各个
- 冒险
- 风险投资
- we
- 周
- 什么是
- ,尤其是
- 是否
- 而
- 将
- 也完全不需要
- 工作
- 工作流程
- 将
- 错误
- 年
- 年
- 但
- 您
- 和风网