core-cdev.c revision 2603bf219e9bef3396b96b65326de7db27958c95
119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg/*						-*- c-basic-offset: 8 -*-
219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg *
319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * fw-device-cdev.c - Char device for device raw access
419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg *
519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * Copyright (C) 2005-2006  Kristian Hoegsberg <krh@bitplanet.net>
619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg *
719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * This program is free software; you can redistribute it and/or modify
819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * it under the terms of the GNU General Public License as published by
919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * the Free Software Foundation; either version 2 of the License, or
1019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * (at your option) any later version.
1119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg *
1219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * This program is distributed in the hope that it will be useful,
1319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * but WITHOUT ANY WARRANTY; without even the implied warranty of
1419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
1519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * GNU General Public License for more details.
1619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg *
1719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * You should have received a copy of the GNU General Public License
1819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * along with this program; if not, write to the Free Software Foundation,
1919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA.
2019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg */
2119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
2219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/module.h>
2319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/kernel.h>
2419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/wait.h>
2519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/errno.h>
2619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/device.h>
2719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/vmalloc.h>
2819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/poll.h>
2919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/delay.h>
3019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/mm.h>
31a3aca3dabbcf00f2088d472f27755c29acaa992eKristian Høgsberg#include <linux/idr.h>
3219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <linux/compat.h>
3319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include <asm/uaccess.h>
3419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include "fw-transaction.h"
3519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include "fw-topology.h"
3619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include "fw-device.h"
3719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#include "fw-device-cdev.h"
3819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
3919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg/*
4019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * todo
4119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg *
4219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * - bus resets sends a new packet with new generation and node id
4319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg *
4419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg */
4519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
4619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg/* dequeue_event() just kfree()'s the event, so the event has to be
4719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg * the first field in the struct. */
4819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
4919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstruct event {
5019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct { void *data; size_t size; } v[2];
5119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct list_head link;
5219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg};
5319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
5497bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsbergstruct bus_reset {
5597bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	struct event event;
5697bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	struct fw_cdev_event_bus_reset reset;
5797bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg};
5897bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
5919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstruct response {
6019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct event event;
6119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_transaction transaction;
6219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client;
6319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_event_response response;
6419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg};
6519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
6619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstruct iso_interrupt {
6719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct event event;
6819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_event_iso_interrupt interrupt;
6919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg};
7019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
7119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstruct client {
72344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	u32 version;
7319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_device *device;
7419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spinlock_t lock;
7519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct list_head handler_list;
7619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct list_head request_list;
7719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	u32 request_serial;
7819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct list_head event_list;
7919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	wait_queue_head_t wait;
809aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg
8119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_iso_context *iso_context;
829aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	struct fw_iso_buffer buffer;
839aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	unsigned long vm_start;
8497bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
8597bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	struct list_head link;
8619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg};
8719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
8819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic inline void __user *
8919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergu64_to_uptr(__u64 value)
9019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
9119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return (void __user *)(unsigned long)value;
9219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
9319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
9419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic inline __u64
9519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberguptr_to_u64(void __user *ptr)
9619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
9719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return (__u64)(unsigned long)ptr;
9819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
9919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
10019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic int fw_device_op_open(struct inode *inode, struct file *file)
10119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
10219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_device *device;
10319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client;
10497bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	unsigned long flags;
10519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
106a3aca3dabbcf00f2088d472f27755c29acaa992eKristian Høgsberg	device = fw_device_from_devt(inode->i_rdev);
107a3aca3dabbcf00f2088d472f27755c29acaa992eKristian Høgsberg	if (device == NULL)
108a3aca3dabbcf00f2088d472f27755c29acaa992eKristian Høgsberg		return -ENODEV;
10919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
11019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	client = kzalloc(sizeof *client, GFP_KERNEL);
11119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (client == NULL)
11219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -ENOMEM;
11319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
11419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	client->device = fw_device_get(device);
11519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	INIT_LIST_HEAD(&client->event_list);
11619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	INIT_LIST_HEAD(&client->handler_list);
11719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	INIT_LIST_HEAD(&client->request_list);
11819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_lock_init(&client->lock);
11919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	init_waitqueue_head(&client->wait);
12019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
12119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	file->private_data = client;
12219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
12397bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	spin_lock_irqsave(&device->card->lock, flags);
12497bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	list_add_tail(&client->link, &device->client_list);
12597bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	spin_unlock_irqrestore(&device->card->lock, flags);
12697bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
12719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return 0;
12819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
12919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
13019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic void queue_event(struct client *client, struct event *event,
13119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			void *data0, size_t size0, void *data1, size_t size1)
13219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
13319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	unsigned long flags;
13419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
13519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	event->v[0].data = data0;
13619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	event->v[0].size = size0;
13719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	event->v[1].data = data1;
13819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	event->v[1].size = size1;
13919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
14019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_lock_irqsave(&client->lock, flags);
14119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
14219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	list_add_tail(&event->link, &client->event_list);
14319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	wake_up_interruptible(&client->wait);
14419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
14519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_unlock_irqrestore(&client->lock, flags);
14619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
14719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
1482603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsbergstatic int
1492603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsbergdequeue_event(struct client *client, char __user *buffer, size_t count)
15019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
15119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	unsigned long flags;
15219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct event *event;
15319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	size_t size, total;
1542603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	int i, retval;
15519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
1562603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	retval = wait_event_interruptible(client->wait,
1572603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg					  !list_empty(&client->event_list) ||
1582603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg					  fw_device_is_shutdown(client->device));
1592603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	if (retval < 0)
1602603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		return retval;
16119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
1622603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	if (list_empty(&client->event_list) &&
1632603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		       fw_device_is_shutdown(client->device))
1642603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		return -ENODEV;
16519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
1662603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	spin_lock_irqsave(&client->lock, flags);
16719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	event = container_of(client->event_list.next, struct event, link);
16819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	list_del(&event->link);
16919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_unlock_irqrestore(&client->lock, flags);
17019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
17119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	total = 0;
17219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	for (i = 0; i < ARRAY_SIZE(event->v) && total < count; i++) {
17319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		size = min(event->v[i].size, count - total);
1742603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		if (copy_to_user(buffer + total, event->v[i].data, size)) {
1752603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg			retval = -EFAULT;
17619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			goto out;
1772603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		}
17819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		total += size;
17919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
18019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	retval = total;
18119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
18219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg out:
18319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	kfree(event);
18419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
18519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return retval;
18619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
18719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
18819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic ssize_t
18919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergfw_device_op_read(struct file *file,
19019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		  char __user *buffer, size_t count, loff_t *offset)
19119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
19219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = file->private_data;
19319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
19419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return dequeue_event(client, buffer, count);
19519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
19619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
19797bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsbergstatic void
198344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsbergfill_bus_reset_event(struct fw_cdev_event_bus_reset *event,
199344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		     struct fw_device *device)
200344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg{
201344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	struct fw_card *card = device->card;
202344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg
203344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	event->type          = FW_CDEV_EVENT_BUS_RESET;
204344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	event->node_id       = device->node_id;
205344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	event->local_node_id = card->local_node->node_id;
206344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	event->bm_node_id    = 0; /* FIXME: We don't track the BM. */
207344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	event->irm_node_id   = card->irm_node->node_id;
208344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	event->root_node_id  = card->root_node->node_id;
209344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	event->generation    = card->generation;
210344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg}
211344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg
212344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsbergstatic void
2132603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsbergfor_each_client(struct fw_device *device,
2142603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		void (*callback)(struct client *client))
2152603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg{
2162603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	struct fw_card *card = device->card;
2172603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	struct client *c;
2182603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	unsigned long flags;
2192603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg
2202603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	spin_lock_irqsave(&card->lock, flags);
2212603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg
2222603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	list_for_each_entry(c, &device->client_list, link)
2232603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		callback(c);
2242603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg
2252603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	spin_unlock_irqrestore(&card->lock, flags);
2262603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg}
2272603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg
2282603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsbergstatic void
22997bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsbergqueue_bus_reset_event(struct client *client)
23097bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg{
23197bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	struct bus_reset *bus_reset;
23297bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	struct fw_device *device = client->device;
23397bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
23497bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	bus_reset = kzalloc(sizeof *bus_reset, GFP_ATOMIC);
23597bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	if (bus_reset == NULL) {
23697bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg		fw_notify("Out of memory when allocating bus reset event\n");
23797bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg		return;
23897bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	}
23997bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
240344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	fill_bus_reset_event(&bus_reset->reset, device);
24197bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
24297bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	queue_event(client, &bus_reset->event,
24397bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg		    &bus_reset->reset, sizeof bus_reset->reset, NULL, 0);
24497bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg}
24597bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
24697bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsbergvoid fw_device_cdev_update(struct fw_device *device)
24797bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg{
2482603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	for_each_client(device, queue_bus_reset_event);
2492603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg}
25097bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
2512603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsbergstatic void wake_up_client(struct client *client)
2522603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg{
2532603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	wake_up_interruptible(&client->wait);
2542603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg}
25597bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
2562603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsbergvoid fw_device_cdev_remove(struct fw_device *device)
2572603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg{
2582603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	for_each_client(device, wake_up_client);
25997bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg}
26097bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
261344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsbergstatic int ioctl_get_info(struct client *client, void __user *arg)
26219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
263344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	struct fw_cdev_get_info get_info;
264344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	struct fw_cdev_event_bus_reset bus_reset;
265344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg
266344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	if (copy_from_user(&get_info, arg, sizeof get_info))
267344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		return -EFAULT;
268344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg
269344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	client->version = get_info.version;
270344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	get_info.version = FW_CDEV_VERSION;
271344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg
272344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	if (get_info.rom != 0) {
273344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		void __user *uptr = u64_to_uptr(get_info.rom);
274344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		size_t length = min(get_info.rom_length,
275344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg				    client->device->config_rom_length * 4);
276344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg
277344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		if (copy_to_user(uptr, client->device->config_rom, length))
278344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg			return -EFAULT;
279344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	}
280344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	get_info.rom_length = client->device->config_rom_length * 4;
281344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg
282344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	if (get_info.bus_reset != 0) {
283344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		void __user *uptr = u64_to_uptr(get_info.bus_reset);
284344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg
285344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		fill_bus_reset_event(&bus_reset, client->device);
286344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		if (copy_to_user(uptr, &bus_reset, sizeof bus_reset))
287344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg			return -EFAULT;
288344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	}
28919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
290344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	if (copy_to_user(arg, &get_info, sizeof get_info))
29119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
29219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
29319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return 0;
29419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
29519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
29619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic void
29719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergcomplete_transaction(struct fw_card *card, int rcode,
29819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		     void *payload, size_t length, void *data)
29919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
30019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct response *response = data;
30119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = response->client;
30219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
30319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (length < response->response.length)
30419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		response->response.length = length;
30519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (rcode == RCODE_COMPLETE)
30619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		memcpy(response->response.data, payload,
30719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		       response->response.length);
30819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
30919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	response->response.type   = FW_CDEV_EVENT_RESPONSE;
31019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	response->response.rcode  = rcode;
31119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	queue_event(client, &response->event,
31219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		    &response->response, sizeof response->response,
31319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		    response->response.data, response->response.length);
31419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
31519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
31619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic ssize_t ioctl_send_request(struct client *client, void __user *arg)
31719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
31819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_device *device = client->device;
31919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_send_request request;
32019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct response *response;
32119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
32219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (copy_from_user(&request, arg, sizeof request))
32319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
32419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
32519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	/* What is the biggest size we'll accept, really? */
32619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (request.length > 4096)
32719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EINVAL;
32819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
32919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	response = kmalloc(sizeof *response + request.length, GFP_KERNEL);
33019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (response == NULL)
33119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -ENOMEM;
33219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
33319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	response->client = client;
33419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	response->response.length = request.length;
33519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	response->response.closure = request.closure;
33619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
33719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (request.data &&
33819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	    copy_from_user(response->response.data,
33919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			   u64_to_uptr(request.data), request.length)) {
34019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		kfree(response);
34119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
34219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
34319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
34419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	fw_send_request(device->card, &response->transaction,
345344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg			request.tcode & 0x1f,
346907293d78872ee492ce6a114258dd853ec5082aeStefan Richter			device->node->node_id,
34719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			device->card->generation,
34819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			device->node->max_speed,
34919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			request.offset,
35019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			response->response.data, request.length,
35119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			complete_transaction, response);
35219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
35319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (request.data)
35419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return sizeof request + request.length;
35519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	else
35619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return sizeof request;
35719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
35819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
35919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstruct address_handler {
36019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_address_handler handler;
36119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	__u64 closure;
36219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client;
36319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct list_head link;
36419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg};
36519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
36619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstruct request {
36719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_request *request;
36819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	void *data;
36919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	size_t length;
37019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	u32 serial;
37119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct list_head link;
37219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg};
37319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
37419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstruct request_event {
37519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct event event;
37619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_event_request request;
37719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg};
37819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
37919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic void
38019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberghandle_request(struct fw_card *card, struct fw_request *r,
38119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	       int tcode, int destination, int source,
38219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	       int generation, int speed,
38319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	       unsigned long long offset,
38419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	       void *payload, size_t length, void *callback_data)
38519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
38619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct address_handler *handler = callback_data;
38719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct request *request;
38819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct request_event *e;
38919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	unsigned long flags;
39019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = handler->client;
39119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
39219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	request = kmalloc(sizeof *request, GFP_ATOMIC);
39319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	e = kmalloc(sizeof *e, GFP_ATOMIC);
39419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (request == NULL || e == NULL) {
39519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		kfree(request);
39619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		kfree(e);
39719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		fw_send_response(card, r, RCODE_CONFLICT_ERROR);
39819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return;
39919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
40019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
40119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	request->request = r;
40219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	request->data    = payload;
40319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	request->length  = length;
40419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
40519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_lock_irqsave(&client->lock, flags);
40619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	request->serial = client->request_serial++;
40719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	list_add_tail(&request->link, &client->request_list);
40819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_unlock_irqrestore(&client->lock, flags);
40919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
41019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	e->request.type    = FW_CDEV_EVENT_REQUEST;
41119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	e->request.tcode   = tcode;
41219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	e->request.offset  = offset;
41319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	e->request.length  = length;
41419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	e->request.serial  = request->serial;
41519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	e->request.closure = handler->closure;
41619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
41719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	queue_event(client, &e->event,
41819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		    &e->request, sizeof e->request, payload, length);
41919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
42019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
42119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic int ioctl_allocate(struct client *client, void __user *arg)
42219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
42319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_allocate request;
42419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct address_handler *handler;
42519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	unsigned long flags;
42619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_address_region region;
42719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
42819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (copy_from_user(&request, arg, sizeof request))
42919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
43019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
43119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	handler = kmalloc(sizeof *handler, GFP_KERNEL);
43219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (handler == NULL)
43319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -ENOMEM;
43419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
43519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	region.start = request.offset;
43619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	region.end = request.offset + request.length;
43719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	handler->handler.length = request.length;
43819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	handler->handler.address_callback = handle_request;
43919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	handler->handler.callback_data = handler;
44019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	handler->closure = request.closure;
44119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	handler->client = client;
44219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
44319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (fw_core_add_address_handler(&handler->handler, &region) < 0) {
44419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		kfree(handler);
44519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EBUSY;
44619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
44719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
44819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_lock_irqsave(&client->lock, flags);
44919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	list_add_tail(&handler->link, &client->handler_list);
45019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_unlock_irqrestore(&client->lock, flags);
45119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
45219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return 0;
45319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
45419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
45519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic int ioctl_send_response(struct client *client, void __user *arg)
45619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
45719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_send_response request;
45819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct request *r;
45919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	unsigned long flags;
46019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
46119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (copy_from_user(&request, arg, sizeof request))
46219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
46319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
46419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_lock_irqsave(&client->lock, flags);
46519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	list_for_each_entry(r, &client->request_list, link) {
46619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		if (r->serial == request.serial) {
46719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			list_del(&r->link);
46819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			break;
46919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		}
47019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
47119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	spin_unlock_irqrestore(&client->lock, flags);
47219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
47319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (&r->link == &client->request_list)
47419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EINVAL;
47519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
47619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (request.length < r->length)
47719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		r->length = request.length;
47819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (copy_from_user(r->data, u64_to_uptr(request.data), r->length))
47919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
48019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
48119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	fw_send_response(client->device->card, r->request, request.rcode);
48219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
48319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	kfree(r);
48419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
48519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return 0;
48619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
48719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
4885371842b723dd04df57171f2c74660966901380cKristian Høgsbergstatic int ioctl_initiate_bus_reset(struct client *client, void __user *arg)
4895371842b723dd04df57171f2c74660966901380cKristian Høgsberg{
4905371842b723dd04df57171f2c74660966901380cKristian Høgsberg	struct fw_cdev_initiate_bus_reset request;
4915371842b723dd04df57171f2c74660966901380cKristian Høgsberg	int short_reset;
4925371842b723dd04df57171f2c74660966901380cKristian Høgsberg
4935371842b723dd04df57171f2c74660966901380cKristian Høgsberg	if (copy_from_user(&request, arg, sizeof request))
4945371842b723dd04df57171f2c74660966901380cKristian Høgsberg		return -EFAULT;
4955371842b723dd04df57171f2c74660966901380cKristian Høgsberg
4965371842b723dd04df57171f2c74660966901380cKristian Høgsberg	short_reset = (request.type == FW_CDEV_SHORT_RESET);
4975371842b723dd04df57171f2c74660966901380cKristian Høgsberg
4985371842b723dd04df57171f2c74660966901380cKristian Høgsberg	return fw_core_initiate_bus_reset(client->device->card, short_reset);
4995371842b723dd04df57171f2c74660966901380cKristian Høgsberg}
5005371842b723dd04df57171f2c74660966901380cKristian Høgsberg
50119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic void
5029b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsbergiso_callback(struct fw_iso_context *context, u32 cycle,
5039b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg	     size_t header_length, void *header, void *data)
50419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
50519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = data;
50619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct iso_interrupt *interrupt;
50719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
5089b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg	interrupt = kzalloc(sizeof *interrupt + header_length, GFP_ATOMIC);
50919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (interrupt == NULL)
51019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return;
51119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
51219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	interrupt->interrupt.type      = FW_CDEV_EVENT_ISO_INTERRUPT;
51319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	interrupt->interrupt.closure   = 0;
51419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	interrupt->interrupt.cycle     = cycle;
5159b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg	interrupt->interrupt.header_length = header_length;
5169b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg	memcpy(interrupt->interrupt.header, header, header_length);
51719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	queue_event(client, &interrupt->event,
5189b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg		    &interrupt->interrupt,
5199b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg		    sizeof interrupt->interrupt + header_length, NULL, 0);
52019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
52119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
52219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic int ioctl_create_iso_context(struct client *client, void __user *arg)
52319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
52419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_create_iso_context request;
52519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
52619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (copy_from_user(&request, arg, sizeof request))
52719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
52819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
529295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg	if (request.type > FW_ISO_CONTEXT_RECEIVE)
530295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg		return -EINVAL;
531295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg
53221efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg	if (request.channel > 63)
53321efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg		return -EINVAL;
53421efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg
53598b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg	if (request.sync > 15)
53698b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg		return -EINVAL;
53798b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg
53898b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg	if (request.tags == 0 || request.tags > 15)
53998b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg		return -EINVAL;
54098b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg
54121efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg	if (request.speed > SCODE_3200)
54221efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg		return -EINVAL;
54321efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg
54419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	client->iso_context = fw_iso_context_create(client->device->card,
545295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg						    request.type,
54621efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg						    request.channel,
54721efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg						    request.speed,
548295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg						    request.header_size,
54998b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg						    request.sync,
55098b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg						    request.tags,
55119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg						    iso_callback, client);
55219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (IS_ERR(client->iso_context))
55319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return PTR_ERR(client->iso_context);
55419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
55519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return 0;
55619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
55719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
55819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic int ioctl_queue_iso(struct client *client, void __user *arg)
55919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
56019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_queue_iso request;
56119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct fw_cdev_iso_packet __user *p, *end, *next;
5629b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg	struct fw_iso_context *ctx = client->iso_context;
563295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg	unsigned long payload, payload_end, header_length;
56419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	int count;
56519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct {
56619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		struct fw_iso_packet packet;
56719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		u8 header[256];
56819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	} u;
56919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
5709b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg	if (ctx == NULL)
57119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EINVAL;
57219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (copy_from_user(&request, arg, sizeof request))
57319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
57419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
57519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	/* If the user passes a non-NULL data pointer, has mmap()'ed
57619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	 * the iso buffer, and the pointer points inside the buffer,
57719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	 * we setup the payload pointers accordingly.  Otherwise we
5789aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	 * set them both to 0, which will still let packets with
57919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	 * payload_length == 0 through.  In other words, if no packets
58019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	 * use the indirect payload, the iso buffer need not be mapped
58119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	 * and the request.data pointer is ignored.*/
58219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
5839aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	payload = (unsigned long)request.data - client->vm_start;
5849aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	payload_end = payload + (client->buffer.page_count << PAGE_SHIFT);
5859aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (request.data == 0 || client->buffer.pages == NULL ||
5869aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	    payload >= payload_end) {
5879aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		payload = 0;
5889aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		payload_end = 0;
58919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
59019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
59119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (!access_ok(VERIFY_READ, request.packets, request.size))
59219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
59319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
59419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	p = (struct fw_cdev_iso_packet __user *)u64_to_uptr(request.packets);
59519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	end = (void __user *)p + request.size;
59619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	count = 0;
59719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	while (p < end) {
59819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		if (__copy_from_user(&u.packet, p, sizeof *p))
59919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			return -EFAULT;
600295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg
6019b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg		if (ctx->type == FW_ISO_CONTEXT_TRANSMIT) {
602295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg			header_length = u.packet.header_length;
603295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg		} else {
604295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg			/* We require that header_length is a multiple of
605295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg			 * the fixed header size, ctx->header_size */
6069b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg			if (ctx->header_size == 0) {
6079b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg				if (u.packet.header_length > 0)
6089b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg					return -EINVAL;
6099b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg			} else if (u.packet.header_length % ctx->header_size != 0) {
610295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg				return -EINVAL;
6119b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg			}
612295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg			header_length = 0;
613295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg		}
614295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg
61519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		next = (struct fw_cdev_iso_packet __user *)
616295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg			&p->header[header_length / 4];
61719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		if (next > end)
61819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			return -EINVAL;
61919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		if (__copy_from_user
620295e3feb92e5073ec32a3c626302d4b92c4c8a95Kristian Høgsberg		    (u.packet.header, p->header, header_length))
62119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			return -EFAULT;
62298b6cbe83b6e8db54638746c9040c7962d96b322Kristian Høgsberg		if (u.packet.skip && ctx->type == FW_ISO_CONTEXT_TRANSMIT &&
62319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		    u.packet.header_length + u.packet.payload_length > 0)
62419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			return -EINVAL;
62519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		if (payload + u.packet.payload_length > payload_end)
62619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			return -EINVAL;
62719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
6289b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg		if (fw_iso_context_queue(ctx, &u.packet,
6299b32d5f3074e9b1afaa39a360a59fd77a2214783Kristian Høgsberg					 &client->buffer, payload))
63019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			break;
63119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
63219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		p = next;
63319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		payload += u.packet.payload_length;
63419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		count++;
63519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
63619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
63719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	request.size    -= uptr_to_u64(p) - request.packets;
63819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	request.packets  = uptr_to_u64(p);
6399aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	request.data     = client->vm_start + payload;
64019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
64119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (copy_to_user(arg, &request, sizeof request))
64219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
64319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
64419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return count;
64519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
64619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
64769cdb7268ca2e644665dae8ea26e35ce4e96679cKristian Høgsbergstatic int ioctl_start_iso(struct client *client, void __user *arg)
64819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
64969cdb7268ca2e644665dae8ea26e35ce4e96679cKristian Høgsberg	struct fw_cdev_start_iso request;
65019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
65119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (copy_from_user(&request, arg, sizeof request))
65219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EFAULT;
65319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
65421efb3cfc6ed49991638000f58bb23b838c76e25Kristian Høgsberg	return fw_iso_context_start(client->iso_context, request.cycle);
65519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
65619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
657b82956685aab4a9d333714300eb8a86fed6c9ab3Kristian Høgsbergstatic int ioctl_stop_iso(struct client *client, void __user *arg)
658b82956685aab4a9d333714300eb8a86fed6c9ab3Kristian Høgsberg{
659b82956685aab4a9d333714300eb8a86fed6c9ab3Kristian Høgsberg	return fw_iso_context_stop(client->iso_context);
660b82956685aab4a9d333714300eb8a86fed6c9ab3Kristian Høgsberg}
661b82956685aab4a9d333714300eb8a86fed6c9ab3Kristian Høgsberg
66219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic int
66319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergdispatch_ioctl(struct client *client, unsigned int cmd, void __user *arg)
66419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
66519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	switch (cmd) {
666344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg	case FW_CDEV_IOC_GET_INFO:
667344bbc4de14e70d03f09bff04bb7d161b8a0d28cKristian Høgsberg		return ioctl_get_info(client, arg);
66819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	case FW_CDEV_IOC_SEND_REQUEST:
66919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return ioctl_send_request(client, arg);
67019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	case FW_CDEV_IOC_ALLOCATE:
67119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return ioctl_allocate(client, arg);
67219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	case FW_CDEV_IOC_SEND_RESPONSE:
67319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return ioctl_send_response(client, arg);
6745371842b723dd04df57171f2c74660966901380cKristian Høgsberg	case FW_CDEV_IOC_INITIATE_BUS_RESET:
6755371842b723dd04df57171f2c74660966901380cKristian Høgsberg		return ioctl_initiate_bus_reset(client, arg);
67619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	case FW_CDEV_IOC_CREATE_ISO_CONTEXT:
67719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return ioctl_create_iso_context(client, arg);
67819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	case FW_CDEV_IOC_QUEUE_ISO:
67919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return ioctl_queue_iso(client, arg);
68069cdb7268ca2e644665dae8ea26e35ce4e96679cKristian Høgsberg	case FW_CDEV_IOC_START_ISO:
68169cdb7268ca2e644665dae8ea26e35ce4e96679cKristian Høgsberg		return ioctl_start_iso(client, arg);
682b82956685aab4a9d333714300eb8a86fed6c9ab3Kristian Høgsberg	case FW_CDEV_IOC_STOP_ISO:
683b82956685aab4a9d333714300eb8a86fed6c9ab3Kristian Høgsberg		return ioctl_stop_iso(client, arg);
68419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	default:
68519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EINVAL;
68619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
68719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
68819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
68919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic long
69019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergfw_device_op_ioctl(struct file *file,
69119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		   unsigned int cmd, unsigned long arg)
69219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
69319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = file->private_data;
69419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
69519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return dispatch_ioctl(client, cmd, (void __user *) arg);
69619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
69719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
69819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#ifdef CONFIG_COMPAT
69919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic long
70019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergfw_device_op_compat_ioctl(struct file *file,
70119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg			  unsigned int cmd, unsigned long arg)
70219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
70319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = file->private_data;
70419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
70519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return dispatch_ioctl(client, cmd, compat_ptr(arg));
70619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
70719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#endif
70819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
70919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic int fw_device_op_mmap(struct file *file, struct vm_area_struct *vma)
71019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
71119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = file->private_data;
7129aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	enum dma_data_direction direction;
7139aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	unsigned long size;
7149aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	int page_count, retval;
7159aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg
7169aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	/* FIXME: We could support multiple buffers, but we don't. */
7179aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (client->buffer.pages != NULL)
7189aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		return -EBUSY;
7199aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg
7209aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (!(vma->vm_flags & VM_SHARED))
7219aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		return -EINVAL;
72219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
7239aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (vma->vm_start & ~PAGE_MASK)
72419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		return -EINVAL;
72519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
72619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	client->vm_start = vma->vm_start;
7279aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	size = vma->vm_end - vma->vm_start;
7289aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	page_count = size >> PAGE_SHIFT;
7299aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (size & ~PAGE_MASK)
7309aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		return -EINVAL;
7319aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg
7329aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (vma->vm_flags & VM_WRITE)
7339aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		direction = DMA_TO_DEVICE;
7349aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	else
7359aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		direction = DMA_FROM_DEVICE;
7369aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg
7379aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	retval = fw_iso_buffer_init(&client->buffer, client->device->card,
7389aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg				    page_count, direction);
7399aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (retval < 0)
7409aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		return retval;
74119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
7429aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	retval = fw_iso_buffer_map(&client->buffer, vma);
7439aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (retval < 0)
7449aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		fw_iso_buffer_destroy(&client->buffer, client->device->card);
7459aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg
7469aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	return retval;
74719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
74819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
74919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic int fw_device_op_release(struct inode *inode, struct file *file)
75019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
75119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = file->private_data;
7522603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	struct address_handler *h, *next_h;
75319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct request *r, *next_r;
7542603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	struct event *e, *next_e;
75597bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	unsigned long flags;
75619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
7579aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg	if (client->buffer.pages)
7589aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg		fw_iso_buffer_destroy(&client->buffer, client->device->card);
7599aad8125389a7a2990dee72d7892e22330a945ebKristian Høgsberg
76019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (client->iso_context)
76119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		fw_iso_context_destroy(client->iso_context);
76219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
7632603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	list_for_each_entry_safe(h, next_h, &client->handler_list, link) {
76419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		fw_core_remove_address_handler(&h->handler);
76519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		kfree(h);
76619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
76719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
76819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	list_for_each_entry_safe(r, next_r, &client->request_list, link) {
76919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		fw_send_response(client->device->card, r->request,
77019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg				 RCODE_CONFLICT_ERROR);
77119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg		kfree(r);
77219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	}
77319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
77419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	/* TODO: wait for all transactions to finish so
77519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	 * complete_transaction doesn't try to queue up responses
77619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	 * after we free client. */
7772603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	list_for_each_entry_safe(e, next_e, &client->event_list, link)
7782603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		kfree(e);
77919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
78097bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	spin_lock_irqsave(&client->device->card->lock, flags);
78197bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	list_del(&client->link);
78297bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg	spin_unlock_irqrestore(&client->device->card->lock, flags);
78397bd9efa5a4d8a70b3bafe0d1e3e1a814fdac5bcKristian Høgsberg
78419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	fw_device_put(client->device);
78519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	kfree(client);
78619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
78719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	return 0;
78819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
78919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
79019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsbergstatic unsigned int fw_device_op_poll(struct file *file, poll_table * pt)
79119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg{
79219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	struct client *client = file->private_data;
7932603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	unsigned int mask = 0;
79419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
79519a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	poll_wait(file, &client->wait, pt);
79619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
7972603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	if (fw_device_is_shutdown(client->device))
7982603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		mask |= POLLHUP | POLLERR;
79919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	if (!list_empty(&client->event_list))
8002603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg		mask |= POLLIN | POLLRDNORM;
8012603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg
8022603bf219e9bef3396b96b65326de7db27958c95Kristian Høgsberg	return mask;
80319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg}
80419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
80521ebcd1224d05c8673053e1e93ab9ec7ef3e0b84Stefan Richterconst struct file_operations fw_device_ops = {
80619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	.owner		= THIS_MODULE,
80719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	.open		= fw_device_op_open,
80819a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	.read		= fw_device_op_read,
80919a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	.unlocked_ioctl	= fw_device_op_ioctl,
81019a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	.poll		= fw_device_op_poll,
81119a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	.release	= fw_device_op_release,
81219a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg	.mmap		= fw_device_op_mmap,
81319a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg
81419a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#ifdef CONFIG_COMPAT
8155af4e5eab30d481f76b89a2167c873dfad960acbStefan Richter	.compat_ioctl	= fw_device_op_compat_ioctl,
81619a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg#endif
81719a15b937b26638933307bb02f7b1801310d6eb2Kristian Høgsberg};
818