最近，为了提高无监督的图像检索性能，通过设计语义相似性矩阵提出了许多无监督的哈希方法，该方法基于预先训练的CNN模型提取的图像功能之间的相似性。但是，这些方法中的大多数倾向于忽略图像中包含的高级抽象语义概念。直观地，概念在计算图像之间的相似性中起着重要作用。在实际情况下，每个图像都与某些概念相关联，如果两个图像共享更相同的概念，则两个图像之间的相似性将更大。受到上述直觉的启发，在这项工作中，我们提出了一种带有语义概念挖掘的新颖无监督的散列散布，称为UHSCM，该挖掘利用VLP模型来构建高质量的相似性矩阵。具体而言，首先收集一组随机选择的概念。然后，通过使用及时的工程进行视觉预审进（VLP）模型，该模型在视觉表示学习中表现出强大的力量，根据训练图像将一组概念降低。接下来，提出的方法UHSCM应用了VLP模型，并再次提示挖掘每个图像的概念分布，并基于挖掘的概念分布构建高质量的语义相似性矩阵。最后，以语义相似性矩阵作为指导信息，提出了一种新颖的散列损失，并提出了基于对比度损失的正则化项，以优化哈希网络。在三个基准数据集上进行的大量实验表明，所提出的方法在图像检索任务中优于最新基准。

最近流行的对比学习范式提出了无监督的哈希的发展。但是，以前的基于学习的作品受到（1）基于全球图像表示的数据相似性挖掘的障碍，以及（2）由数据增强引起的哈希代码语义损失。在本文中，我们提出了一种新颖的方法，即加权的伴侣哈希（WCH），以朝着解决这两个问题迈出一步。我们介绍了一个新型的相互注意模块，以减轻由缺失的图像结构引起的网络特征中信息不对称问题的问题。此外，我们探索了图像之间的细粒语义关系，即，我们将图像分为多个斑块并计算斑块之间的相似性。反映深层图像关系的聚合加权相似性是经过蒸馏而来的，以促进哈希码以蒸馏损失的方式学习，从而获得更好的检索性能。广泛的实验表明，所提出的WCH在三个基准数据集上显着优于现有的无监督哈希方法。

Hierarchical semantic structures, naturally existing in real-world datasets, can assist in capturing the latent distribution of data to learn robust hash codes for retrieval systems. Although hierarchical semantic structures can be simply expressed by integrating semantically relevant data into a high-level taxon with coarser-grained semantics, the construction, embedding, and exploitation of the structures remain tricky for unsupervised hash learning. To tackle these problems, we propose a novel unsupervised hashing method named Hyperbolic Hierarchical Contrastive Hashing (HHCH). We propose to embed continuous hash codes into hyperbolic space for accurate semantic expression since embedding hierarchies in hyperbolic space generates less distortion than in hyper-sphere space and Euclidean space. In addition, we extend the K-Means algorithm to hyperbolic space and perform the proposed hierarchical hyperbolic K-Means algorithm to construct hierarchical semantic structures adaptively. To exploit the hierarchical semantic structures in hyperbolic space, we designed the hierarchical contrastive learning algorithm, including hierarchical instance-wise and hierarchical prototype-wise contrastive learning. Extensive experiments on four benchmark datasets demonstrate that the proposed method outperforms the state-of-the-art unsupervised hashing methods. Codes will be released.

哈希（Hashing）将项目数据投入二进制代码已显示出由于其储存量低和高查询速度而显示出跨模式检索的非凡人才。尽管在某些情况下取得了经验成功，但现有的跨模式散列方法通常不存在带有大量标记信息的数据时跨模式差距跨模式差距。为了避免以分裂和纠纷策略的激励，我们提出了深层的歧管散列（DMH），这是一种新颖的方法，是将半分配的无监督的交叉模式检索分为三个子问题，并建立一个简单而又简单而又又有一个简单的方法每个子问题的效率模型。具体而言，第一个模型是通过基于多种学习的半生数据补充的半生数据来构建的，用于获得模态不变的特征，而第二个模型和第三个模型旨在分别学习哈希码和哈希功能。在三个基准上进行的广泛实验表明，与最先进的完全配对和半成本无监督的跨模式散列方法相比，我们的DMH的优势。

由于其在计算和存储的效率，散列广泛应用于大型多媒体数据上的多模式检索。在本文中，我们提出了一种用于可伸缩图像文本和视频文本检索的新型深度语义多模式散列网络（DSMHN）。所提出的深度散列框架利用2-D卷积神经网络（CNN）作为骨干网络，以捕获图像文本检索的空间信息，而3-D CNN作为骨干网络以捕获视频的空间和时间信息 - 文本检索。在DSMHN中，通过显式保留帧间性相似性和岩石性语义标签，共同学习两组模态特定散列函数。具体地，假设学习散列代码应该是对分类任务的最佳选择，通过在所得哈希代码上嵌入语义标签来共同训练两个流网络以学习散列函数。此外，提出了一种统一的深层多模式散列框架，通过利用特征表示学习，互相相似度 - 保存学习，语义标签保留学习和哈希函数学习同时利用不同类型的损耗功能来学习紧凑和高质量的哈希码。该提议的DSMHN方法是用于图像文本和视频文本检索的通用和可扩展的深度散列框架，其可以灵活地集成在不同类型的损耗功能中。我们在四个广泛使用的多媒体检索数据集中对单一模态和跨模型检索任务进行广泛的实验。图像文本和视频文本检索任务的实验结果表明DSMHN显着优于最先进的方法。

通过将高维数据点编码为二进制代码以进行有效检索，深度哈希已被广泛应用于大规模图像检索。与基于成对/三胞胎相似性的哈希学习相比，基于中央相似性的哈希可以更有效地捕获全局数据分布。但是，对于多标签图像检索，以前的方法仅使用具有相等权重的多个哈希中心来生成一个质心作为学习目标，该目标忽略了哈希中心的权重与图像中实例区域的比例之间的关系。为了解决上述问题，我们提出了一种两步的替代优化方法，即实例加权中心相似性（ICS），以自动学习与哈希代码相对应的中心重量。首先，我们应用最大熵正常器来防止一个哈希中心主导损失函数，并通过投影梯度下降计算中心重量。其次，我们通过固定中心权重的标准背部传播来更新神经网络参数。更重要的是，学到的中心重量可以很好地反映图像中前景实例的比例。我们的方法在图像检索基准测试中实现了最先进的性能，尤其是在MS可可数据集中将地图提高了1.6％-6.4％。

在基于哈希的图像检索系统中，原始的变换输入通常会产生不同的代码，降低检索精度。要缓解此问题，可以在培训期间应用数据增强。然而，即使一个内容的增强样本在真实空间中相似，量化也可以在汉明空间远离它们。这导致可以阻碍培训和降低性能的表示差异。在这项工作中，我们提出了一种新型的自蒸馏散列方案，以最小化差异，同时利用增强数据的潜力。通过将弱变换样本的哈希知识转移到强大的样本，我们使哈希代码对各种变换不敏感。我们还引入了基于哈希代理的相似度学习和基于二进制交叉熵的量化损耗，以提供优质的质量哈希代码。最终，我们构建一个深度散列框架，产生鉴别性哈希代码。基准测试的广泛实验验证了我们的自蒸馏改善了现有的深度散列方法，我们的框架达到了最先进的检索结果。代码将很快发布。

最近，深度散列方法已广泛用于图像检索任务。大多数现有的深度散列方法采用一对一量化以降低信息损失。然而，这种类无关的量化不能为网络培训提供歧视反馈。此外，这些方法仅利用单个标签来集成散列函数学习数据的监督信息，这可能导致较差的网络泛化性能和相对低质量的散列代码，因为数据的帧间信息完全忽略。在本文中，我们提出了一种双语义非对称散列（DSAH）方法，其在三倍的约束下产生鉴别性哈希码。首先，DSAH在进行类结构量化之前利用类，以便在量化过程中传输类信息。其次，设计简单但有效的标签机制旨在表征类内的紧凑性和数据间数据间可分离性，从而实现了语义敏感的二进制代码学习。最后，设计了一种有意义的成对相似性保存损耗，以最小化基于亲和图的类相关网络输出之间的距离。利用这三个主要组件，可以通过网络生成高质量的哈希代码。在各种数据集上进行的广泛实验表明了DSAH的优越性与最先进的深度散列方法相比。

监督基于深度学习的哈希和矢量量化是实现快速和大规模的图像检索系统。通过完全利用标签注释，与传统方法相比，它们正在实现出色的检索性能。但是，令人生心的是为大量训练数据准确地分配标签，并且还有注释过程易于出错。为了解决这些问题，我们提出了第一款深度无监督的图像检索方法被称为自我监督的产品量化（SPQ）网络，该方法是无标签和以自我监督的方式培训的。我们通过比较单独转换的图像（视图）来设计一个交叉量化的对比学习策略，该横向学习策略共同学习码字和深视觉描述符。我们的方法分析了图像内容以提取描述性功能，允许我们理解图像表示以准确检索。通过对基准进行广泛的实验，我们证明该方法即使没有监督预测，也会产生最先进的结果。

在本文中，我们采用了最大化的互信息（MI）方法来解决无监督的二进制哈希代码的问题，以实现高效的跨模型检索。我们提出了一种新颖的方法，被称为跨模型信息最大散列（CMIMH）。首先，要学习可以保留模跨和跨间相似性的信息的信息，我们利用最近估计MI的变分的进步，以最大化二进制表示和输入特征之间的MI以及不同方式的二进制表示之间的MI。通过在假设由多变量Bernoulli分布模型的假设下联合最大化这些MIM，我们可以学习二进制表示，该二进制表示，其可以在梯度下降中有效地以微量批量方式有效地保留帧内和模态的相似性。此外，我们发现尝试通过学习与来自不同模式的相同实例的类似二进制表示来最小化模态差距，这可能导致更少的信息性表示。因此，在减少模态间隙和失去模态 - 私人信息之间平衡对跨模型检索任务很重要。标准基准数据集上的定量评估表明，该方法始终如一地优于其他最先进的跨模型检索方法。

跨模式哈希是解决大型多媒体检索问题的成功方法。提出了许多基于矩阵分解的哈希方法。但是，现有方法仍然在一些问题上遇到困难，例如如何有效地生成二元代码，而不是直接放松它们的连续性。此外，大多数现有方法选择使用$ n \ times n $相似性矩阵进行优化，这使得内存和计算无法承受。在本文中，我们提出了一种新型的不对称可伸缩式模式哈希（ASCMH）来解决这些问题。首先，它引入了集体矩阵分解，以从不同模态的内核特征中学习一个共同的潜在空间，然后将相似性矩阵优化转换为距距离距离差异问题，并借助语义标签和共同的潜在空间。因此，$ n \ times n $不对称优化的计算复杂性得到了缓解。在一系列哈希码中，我们还采用了标签信息的正交约束，这对于搜索准确性是必不可少的。因此，可以大大减少计算的冗余。为了有效的优化并可扩展到大规模数据集，我们采用了两步方法，而不是同时优化。在三个基准数据集上进行了广泛的实验：Wiki，Mirflickr-25K和NUS范围内，表明我们的ASCMH在准确性和效率方面表现出了最先进的跨模式散列方法。

由于需要经济的储存和二元法规的效率，因此无监督的哈希对二元表示学习引起了很多关注。它旨在编码锤子空间中的高维特征，并在实例之间保持相似性。但是，大多数现有方法在基于多种的方法中学习哈希功能。这些方法捕获了数据的局部几何结构（即成对关系），并且在处理具有不同语义信息的实际特征（例如颜色和形状）的真实情况时缺乏令人满意的性能。为了应对这一挑战，在这项工作中，我们提出了一种有效的无监督方法，即共同个性化的稀疏哈希（JPSH），以进行二进制表示学习。具体来说，首先，我们提出了一个新颖的个性化哈希模块，即个性化的稀疏哈希（PSH）。构建了不同的个性化子空间，以反映不同群集的特定类别属性，同一群集中的自适应映射实例与同一锤子空间。此外，我们为不同的个性化子空间部署稀疏约束来选择重要功能。我们还收集了其他群集的优势，以避免过度拟合，以构建PSH模块。然后，为了在JPSH中同时保留语义和成对的相似性，我们将基于PSH和歧管的哈希学习纳入无缝配方中。因此，JPSH不仅将这些实例与不同的集群区分开，而且还保留了集群中的本地邻里结构。最后，采用了交替优化算法，用于迭代捕获JPSH模型的分析解决方案。在四个基准数据集上进行的大量实验验证了JPSH是否在相似性搜索任务上优于几个哈希算法。

与传统的散列方法相比，深度散列方法生成具有丰富语义信息的哈希代码，大大提高了图像检索场中的性能。然而，对于当前的深度散列方法预测硬示例的相似性是不满意的。它存在影响学习难度示例能力的两个主要因素，这是弱的关键特征提取和硬示例的短缺。在本文中，我们提供了一种新的端到端模型，可以从硬示例中提取关键特征，并使用准确的语义信息获得哈希码。此外，我们还重新设计了一个艰难的成对损失功能，以评估难度和更新的例子罚款。它有效缓解了硬例中的短缺问题。CiFAR-10和Nus-rige的实验结果表明我们的模型表现出基于主流散列的图像检索方法的表现。

Deep hashing has been extensively utilized in massive image retrieval because of its efficiency and effectiveness. However, deep hashing models are vulnerable to adversarial examples, making it essential to develop adversarial defense methods for image retrieval. Existing solutions achieved limited defense performance because of using weak adversarial samples for training and lacking discriminative optimization objectives to learn robust features. In this paper, we present a min-max based Center-guided Adversarial Training, namely CgAT, to improve the robustness of deep hashing networks through worst adversarial examples. Specifically, we first formulate the center code as a semantically-discriminative representative of the input image content, which preserves the semantic similarity with positive samples and dissimilarity with negative examples. We prove that a mathematical formula can calculate the center code immediately. After obtaining the center codes in each optimization iteration of the deep hashing network, they are adopted to guide the adversarial training process. On the one hand, CgAT generates the worst adversarial examples as augmented data by maximizing the Hamming distance between the hash codes of the adversarial examples and the center codes. On the other hand, CgAT learns to mitigate the effects of adversarial samples by minimizing the Hamming distance to the center codes. Extensive experiments on the benchmark datasets demonstrate the effectiveness of our adversarial training algorithm in defending against adversarial attacks for deep hashing-based retrieval. Compared with the current state-of-the-art defense method, we significantly improve the defense performance by an average of 18.61%, 12.35%, and 11.56% on FLICKR-25K, NUS-WIDE, and MS-COCO, respectively.

零射击跨模式检索（ZS-CMR）处理了来自看不见类别的异源数据之间的检索问题。通常，为了确保概括，使用自然语言处理（NLP）模型的预定义类嵌入方式用于构建公共空间。在本文中，我们考虑了一种完全不同的方法来从信息理论的角度考虑构造（或学习）通用锤击空间的完全不同的方法，而不是使用额外的NLP模型来定义公共空间。我们将模型称为信息理论哈希（ITH），该图案由两个级联模块组成：一个自适应信息聚合（AIA）模块；和语义保存编码（SPE）模块。具体而言，我们的AIA模块从相关信息的原理（PRI）中汲取灵感来构建一个共同空间，该空间可适应地汇总了不同数据模式的固有语义，并滤除了多余或无关紧要的信息。另一方面，我们的SPE模块通过保留固有语义与元素的Kullback-Leibler（KL）差异的相似性，进一步生成了不同模态的哈希代码。还施加了总相关性项，以减少哈希码不同维度之间的冗余。在三个基准数据集上进行了足够的实验，证明了ZS-CMR中提出的ITH的优势。源代码在补充材料中可用。

无监督的图像检索旨在学习有效的检索系统而无需昂贵的数据注释，但是大多数现有方法都严重依赖于手工制作的功能描述符或预训练的功能提取器。为了最大程度地减少人类的监督，最近的Advance提出了深度无监督的图像检索，旨在训练从头开始的深层模型，以共同优化视觉特征和量化代码。但是，现有方法主要集中于实例对比学习，而无需考虑基本的语义结构信息，从而导致了次优的性能。在这项工作中，我们提出了一种新型的自我监督一致的量化方法，以深度无监督的图像检索，该方法由一致的零件量化和全局一致的量化组成。在部分一致的量化中，我们通过CodeWord多样性正规化设计了部分邻居语义一致性学习。这允许将基础化表示的基本邻居结构信息视为自学。在全球一致的量化中，我们对嵌入和量化表示形式采用对比度学习，并将这些表示形式融合在一起，以在实例之间进行一致的对比度正规化。这可以弥补量化过程中有用表示信息的丢失，并在实例之间正规化一致性。我们的方法具有统一的学习目标和全球一致的量化，利用了更丰富的自学线索来促进模型学习。在三个基准数据集上进行的广泛实验表明，我们的方法优于最先进的方法。

由于具有强大的功能学习能力和高效率，深层哈希在大规模图像检索中取得了巨大的成功。同时，广泛的作品表明，深层神经网络（DNN）容易受到对抗例子的影响，并且探索针对深哈希的对抗性攻击吸引了许多研究工作。然而，尚未对Backdoor攻击（对DNNS的另一个著名威胁）进行深入研究。尽管图像分类领域已经提出了各种后门攻击，但现有方法未能实现真正的不可思议的后门攻击，该攻击享受着隐形触发器并同时享受清洁标签设置，而且它们也无法满足图像检索后门的内在需求。在本文中，我们提出了Badhash，这是第一个基于生成的无透感的后门攻击，对深哈希的攻击，它可以有效地用干净的标签产生隐形和投入特定的中毒图像。具体而言，我们首先提出了一种新的条件生成对抗网络（CGAN）管道，以有效生成中毒样品。对于任何给定的良性图像，它试图产生具有独特无形扳机的自然中毒对应物。为了提高攻击效果，我们引入了基于标签的对比学习网络LabCln来利用不同标签的语义特征，随后将其用于混淆和误导目标模型以学习嵌入式触发器。我们终于探索了在哈希空间中对图像检索的后门攻击的机制。在多个基准数据集上进行的广泛实验证明，Badhash可以生成不察觉的中毒样本，具有强大的攻击能力和对最新的深层哈希方案的可转移性。主要主题领域：[参与]多媒体搜索和建议

图像检索已成为一种越来越有吸引力的技术，具有广泛的多媒体应用前景，在该技术中，深层哈希是朝着低存储和有效检索的主要分支。在本文中，我们对深度学习中的度量学习进行了深入的研究，以在多标签场景中建立强大的度量空间，在多标签场景中，两人的损失遭受了高度计算的开销和汇聚难度，而代理损失理论上是无法表达的。深刻的标签依赖性和在构造的超球场空间中表现出冲突。为了解决这些问题，我们提出了一个新颖的度量学习框架，该框架具有混合代理损失（hyt $^2 $损失），该框架构建了具有高效训练复杂性W.R.T.的表现力度量空间。整个数据集。拟议的催眠$^2 $损失着重于通过可学习的代理和发掘无关的数据与数据相关性来优化超晶体空间，这整合了基于成对方法的足够数据对应关系以及基于代理方法的高效效率。在四个标准的多标签基准上进行的广泛实验证明，所提出的方法优于最先进的方法，在不同的哈希片中具有强大的功能，并且以更快，更稳定的收敛速度实现了显着的性能增长。我们的代码可从https://github.com/jerryxu0129/hyp2-loss获得。

Prompt tuning is a new few-shot transfer learning technique that only tunes the learnable prompt for pre-trained vision and language models such as CLIP. However, existing prompt tuning methods tend to learn spurious or entangled representations, which leads to poor generalization to unseen concepts. Towards non-spurious and efficient prompt learning from limited examples, this paper presents a novel \underline{\textbf{C}}ounterfactual \underline{\textbf{P}}rompt \underline{\textbf{L}}earning (CPL) method for vision and language models, which simultaneously employs counterfactual generation and contrastive learning in a joint optimization framework. Particularly, CPL constructs counterfactual by identifying minimal non-spurious feature change between semantically-similar positive and negative samples that causes concept change, and learns more generalizable prompt representation from both factual and counterfactual examples via contrastive learning. Extensive experiments demonstrate that CPL can obtain superior few-shot performance on different vision and language tasks than previous prompt tuning methods on CLIP. On image classification, we achieve 3.55\% average relative improvement on unseen classes across seven datasets; on image-text retrieval and visual question answering, we gain up to 4.09\% and 25.08\% relative improvements across three few-shot scenarios on unseen test sets respectively.

跨模态散列（CMH）是跨模型近似最近邻搜索中最有前途的方法之一。大多数CMH解决方案理想地假设培训和测试集的标签是相同的。但是，通常违反假设，导致零拍摄的CMH问题。最近解决此问题的努力侧重于使用标签属性将知识转移到未见的类。但是，该属性与多模态数据的特征隔离。为了减少信息差距，我们介绍了一种名为LAEH的方法（嵌入零拍跨模型散列的标签属性）。 Laeh首先通过Word2Vec模型获取标签的初始语义属性向量，然后使用转换网络将它们转换为常见的子空间。接下来，它利用散列向量和特征相似矩阵来指导不同方式的特征提取网络。与此同时，Laeh使用属性相似性作为标签相似度的补充，以纠正标签嵌入和常见子空间。实验表明，Laeh优于相关代表零射和跨模态散列方法。